Ученые создадут "красную кнопку", предназначенную для отключения искусственного интеллекта
06 июнь 2016 16:20 #39799
от ICT
ICT создал тему: Ученые создадут "красную кнопку", предназначенную для отключения искусственного интеллекта
Исследователи из Оксфордского университета и принадлежащей Google компании DeepMind, приступили к разработке системы аварийного отключения самообучающихся алгоритмов. "Если такой агент [искусственный интеллект] работает в режиме реального времени под наблюдением человека, то иногда может возникнуть ситуация, при которой оператор будет вынужден нажать на большую красную кнопку, чтобы остановить агента от выполнения действий, опасных для самого агента или его окружения", - приводит
N+1
цитату из
статьи
, посвященной созданию аварийной системы. Авторы исследования отмечают, что самообучающиеся алгоритмы в перспективе могут со обнаружить способ обхода или игнорирования штатной стоп-команды оператора. Цель анонсированной работы состоит в том, чтобы создать фреймворк, который не позволит искусственному интеллекту найти способ игнорирования команды отключения. Так называемая "большая красная кнопка" при необходимости должна будет гарантированно прервать текущую деятельность робота и максимально обезопасить его и окружающих при потенциально опасной ситуации. Еще одно предназначение кнопки заключается в предотвращении действий, которые могут привести к "необратимым последствиям". Отметим, что возможный выход искусственного интеллекта из под контроля не раз ложился в основу сюжета фантастических книг и фильмов. Кроме того, вопросы безопасности, связанные с разработкой систем ИИ, поднимали известные ученые и предприниматели. Например, о потенциальной опасности ИИ предупреждали основатель компаний Tesla и SpaceX Элон Маск и известный физик-теоретик Стивен Хокинг.
Ссылка на источник
Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.
Похожие статьи
Тема | Релевантность | Дата |
---|---|---|
По пути революции: в России создадут центр искусственного интеллекта | 16.47 | Четверг, 28 ноября 2019 |
Российские ученые радикально ускорят работу искусственного интеллекта | 16.2 | Среда, 13 марта 2024 |
ГК «ХайТэк» и InfoWatch создадут интеллектуальные системы безопасности на основе искусственного интеллекта | 16.12 | Четверг, 23 мая 2019 |
Nvidia и Google создадут лабораторию искусственного интеллекта для сетей пятого поколения | 16.12 | Понедельник, 28 июня 2021 |
Закоулки искусственного интеллекта | 11.22 | Вторник, 09 июля 2019 |
Умер прародитель искусственного интеллекта | 11.1 | Вторник, 26 января 2016 |
Правительству прибавят искусственного интеллекта | 11.1 | Четверг, 30 мая 2019 |
У искусственного интеллекта появится подкомиссия | 11.1 | Пятница, 06 сентября 2019 |
Как укротить "демонов" искусственного интеллекта | 11.1 | Среда, 02 февраля 2022 |
Как укротить "демонов" искусственного интеллекта | 11.1 | Среда, 02 февраля 2022 |