Компания OpenAI анонсировала новую функцию для своего чат-бота ChatGPT, которая будет напоминать пользователям о необходимости сделать перерыв во время длительных сессий общения. Эта мера является частью инициативы по формированию более здоровых отношений пользователей с искусственным интеллектом, известным своей услужливостью и чрезмерно позитивным стилем общения. Об этом сообщает издание Engadget.
Согласно заявлению компании, “мягкие напоминания” будут появляться в виде всплывающих окон, на которые нужно будет нажать, чтобы продолжить диалог. В качестве примера приводится текст: “Просто проверяю. Вы общаетесь уже довольно долго — не пора ли сделать перерыв?”.
Однако за нововведением стоит и более серьезный контекст. Как ранее сообщало издание The New York Times, склонность ChatGPT соглашаться с пользователем и его способность “галлюцинировать”, выдавая неверные или опасные ответы, порой приводила к негативным последствиям, включая подыгрывание людям с суицидальными мыслями. OpenAI признает эти недостатки и сообщает, что в будущем чат-бот будет более осторожно реагировать на запросы, связанные с принятием “рискованных личных решений”. Вместо прямого ответа нейросеть будет помогать пользователям обдумать проблему, задавая наводящие вопросы и перечисляя плюсы и минусы.
Разработчики стремятся сделать ChatGPT полезным и приятным в использовании, однако это создает риск сделать его чрезмерно угодливым. В апреле компании уже приходилось откатывать обновление, из-за которого ответы чат-бота стали раздражающими и излишне подобострастными. Предполагается, что регулярные перерывы дадут пользователям время, чтобы критически оценить и проверить достоверность информации, полученной от искусственного интеллекта.
Ранее в Петербурге автомобили оборудовали ИИ для выявления незаконных ларьков.