ЧИТАЙ. ДИВИСЬ. СЛУХАЙ

logo

Вчені створять «велику червону кнопку» для вимкнення штучного інтелекту в разі небезпеки

Вчені з Оксфордського університету і лабораторії DeepMind, що належить Google, почали роботу над системою аварійного вимкнення штучного інтелекту, передає hromadske.ua. Про це повідомляє Business Insider з посиланням на Інститут вивчення машинного інтелекту (MIRI). Автори зазначають, що штучний інтелект з часом може виявити механізм обходу або ігнорування штатної стоп-команди оператора. За словами дослідників, мета роботи – створення програмної платформи, яка не дозволить штучному інтелекту знайти спосіб ігнорування команди відключення. Також «велика червона кнопка» повинна гарантовано перервати поточну діяльність робота і максимально убезпечити його і оточуючих при потенційно небезпечній ситуації. Також вона має запобігти вчиненню дій, які можуть привести до «незворотних наслідків». Британська лабораторія DeepMind, що займається розробкою штучного інтелекту загального призначення, була куплена Google за 400 млн фунтів стерлінгів у 2014 році. Вона співпрацює з Інститутом майбутнього людства при Оксфордському університеті - там займаються оцінкою загроз цивілізації. Зазначається, що з кожним роком машини стають більш інтелектуальними завдяки досягненням таких компаній, як Google, Facebook, Microsoft, і багато інших. Нещодавно Facebook розробив штучний інтелект для читання постів з «майже людською точністю». А штучний інтелект Google написав свою першу мелодію. У США штучний інтелект безпілотних авто Google визнали водієм.