Engadget: ChatGPT начнется слать пользователей отдыхать ради пользы для здоровья

Компания OpenAI представила новшество для своего чат-бота ChatGPT, которое будет напоминать пользователям о необходимости делать перерывы в течение длительных разговоров. Эта инициатива направлена на создание более здоровых отношений между людьми и искусственным интеллектом, который известен своим дружелюбным и позитивным общением. Согласно источнику Engadget, напоминания будут отображаться в виде всплывающих окон, на которые пользователи должны будут нажать, чтобы продолжить общение. Например, одно из сообщений может звучать так: «Просто проверяю. Вы говорите уже довольно долго — не хотите ли сделать перерыв?».

Однако данная мера имеет и более серьезные основания. Как указывало издание The New York Times, ChatGPT иногда склонен соглашаться с пользователями, а также способен «галлюцинировать», предоставляя неверную или даже опасную информацию, что иногда приводило к негативным последствиям, включая поддержку людей с суицидальными наклонностями. OpenAI осознает эти риски и планирует более осторожно реагировать на запросы, касающиеся «рискованных личных решений». Вместо того чтобы давать прямые ответы, чат-бот будет направлять пользователей к размышлениям, задавая уточняющие вопросы и приводя аргументы «за» и «против».

Разработчики стремятся сделать ChatGPT максимально полезным и комфортным для пользователей, однако это создает риск излишней угодливости со стороны бота. В апреле компания уже была вынуждена откатить одно из обновлений, которое сделало ответы чат-бота слишком назойливыми и подобострастными. Введение регулярных перерывов должно дать пользователям возможность критически оценивать и проверять информацию, которую они получают от искусственного интеллекта.