Назван наиболее пессимистичный сценарий развития искусственного интеллекта

Создатели искусственного интеллекта предупреждают, что он может привести человечество к гибели. Некоторые опасаются, что ИИ превзойдет человеческий интеллект, силу и ум настолько, что может стать автономным.

Это вызовет социальные беспорядки и даже вымирание человечества. Недавно более 350 ученых и инженеров предупредили, что риски искусственного интеллекта сравнимы с рисками ядерной войны и пандемий. В опросе ИИ-экспертов от 2022 года средняя вероятность вымирания или серьезного отчуждения человеческого вида составила 1 к 10. "Крестный отец ИИ" Джеффри Хинтон сказал: "Это не научная фантастика". Он считал, что угроза не возникнет в течение 30 лет, но ИИ развивается так быстро, что может превзойти человеческий интеллект всего за пять. Чат-боты с искусственным интеллектом, созданные компаниями Bings и ChatGPT, способны сдавать экзамены на адвоката и выдавать лицензии врача, писать эссе и набирать 99% в тестах IQ.

Эксперты сравнивают такую возможность с приходом инопланетной высшей расы. "Мы понятия не имеем, что будут делать инопланетяне, когда прилетят, кроме желания завоевать планету", - говорит Стюарт Рассел, ученый-информатик. По мере интеграции ИИ в системы по всему миру террористы или диктаторы могут использовать его для нарушения работы финансовых рынков, электросетей и жизненно важных объектов инфраструктуры, таких как водоснабжение.