Ученые придумали способ предотвратить конец света из-за роботов

Авторы проекта назвали свою разработку селдоновской в честь Айзека Азимова - героя научно-фантастического издания «Основание». Данные алгоритмы не дают машинам с ИИ понимания этических и моральных норм и того, что может являться благом для людей. Благодаря им система определяет, какое поведение роботов нежелательно для человека, и пытается его блокировать. Исследователи уверены, такой механизм поможет контролировать действия машин и не допустить завоевание ими господства над человечеством, что может привести к концу света.

Ученые привели пример с использованием селдоновских алгоритмов в борьбе с диабетом, когда производится контроль инсулиновой помпы. В данном случае система за «нежелательное поведение» принимает все, что провоцирует критическое снижение уровня инсулина и гипогликемию. Подобным образом работает созданный исследователями механизм прогнозирования среднего балла в аттестате студентов, позволяющий, в отличие от других существующих алгоритмов, исключить гендерные предрассудки.