Ученые придумали способ предотвратить конец света из-за роботов

Специалисты, представляющие Университет Массачусетса, придумали, как не допустить конец света из-за машин, наделенных искусственным интеллектом. В этом, уверены ученые, поможет платформа для выведения алгоритмов, распознающих опасное поведение роботов, которое может причинить вред людям.

Авторы проекта назвали свою разработку селдоновской в честь Айзека Азимова - героя научно-фантастического издания «Основание». Данные алгоритмы не дают машинам с ИИ понимания этических и моральных норм и того, что может являться благом для людей. Благодаря им система определяет, какое поведение роботов нежелательно для человека, и пытается его блокировать. Исследователи уверены, такой механизм поможет контролировать действия машин и не допустить завоевание ими господства над человечеством, что может привести к концу света.

Ученые привели пример с использованием селдоновских алгоритмов в борьбе с диабетом, когда производится контроль инсулиновой помпы. В данном случае система за «нежелательное поведение» принимает все, что провоцирует критическое снижение уровня инсулина и гипогликемию. Подобным образом работает созданный исследователями механизм прогнозирования среднего балла в аттестате студентов, позволяющий, в отличие от других существующих алгоритмов, исключить гендерные предрассудки.