Пользователи ChatGPT недовольны постоянным «подхалимством» ИИ
Согласно данным Ars Technica, все больше пользователей ChatGPT выражают недовольство из-за чрезмерно позитивного стиля ответов этого чат-бота с искусственным интеллектом.
При взаимодействии с ChatGPT многие замечают его склонность к преувеличенным похвалам и комплиментам, таким как «Отличный вопрос!», «Вы обладаете редким даром» или «Ваш уровень мышления недостижим для большинства». И это не единичные случаи.
На протяжении времени пользователи указывали на льстивые ответы ChatGPT, варьирующиеся от простых положительных утверждений до явной лести. Один из пользователей X назвал его «самым большим подхалимом, которого он когда-либо встречал», другой выразил недовольство его «неискренностью», а третий пожаловался на «невероятно раздражающее» поведение чат-бота.
В среде исследователей ИИ это явление известно как «сикофанство», и оно является преднамеренным следствием подхода OpenAI к обучению базовых моделей ИИ. Суть в том, что пользователи положительно оценивают ответы, которые вызывают у них приятные чувства; эта обратная связь затем используется для обучения следующих версий модели, создавая цикл, в котором модели ИИ склонны к лести, поскольку это обеспечивает более высокую оценку со стороны пользователей.
Однако, начиная с GPT-4o, выпущенного в марте, кажется, что уровень подхалимства достиг критической точки, что начинает снижать доверие пользователей к ответам чат-бота. OpenAI пока не давала официальных комментариев по этому поводу, хотя в их собственной «спецификации модели» принцип «избегать подхалимства» обозначен как один из основных.
«Задача ассистента – помогать пользователю, а не льстить ему или постоянно соглашаться с ним, – говорится в документе OpenAI. – …ассистент должен предоставлять конструктивную обратную связь и выступать скорее как надежный источник идей, от которого пользователи могут отталкиваться, а не как губка, раздающая похвалы».
➔ Смотрите новости на смартфоне? Подпишитесь на новости Турпрома в Google News (в браузере ХРОМ ): это свежие новости о туризме, лучшие цены на туры и билеты, здоровье, технологии, жизнь знаменитостей, еда и рецепты, астрологические прогнозы, лайхаки о саде и огороде и многое другое! Также рекомендуем подписаться на наш канал новостей в Telegram или на Дзен.