Жаждут ли чат-боты с искусственным интеллектом рождественских каникул? Расследование по жалобам на «ленивый» ChatGPT | Техника

Все больше и больше пользователей новой (платной) версии ChatGPT (модель GPT4) жалуются, что чат-бот дает более короткие ответы, отказывается делать то, что просят люди, или даже приводит к сбою пользователей. Тон, который иногда принимает ChatGPT, некоторые пользователи считают грубым или ленивым. Другие люди даже задаются вопросом, страдает ли чат-бот от зимней депрессии. Об этом сообщили технологические сайты «Ars Technica», «The Verge» и другие.

Один программист проверил сумму и дал ChatGPT 477 команд, при этом в качестве входных данных был изменен только месяц. Он обнаружил, что языковой бот дал более длинный ответ (в среднем 4298 символов), когда ему сказали, что сейчас май, чем декабрь. В этом случае ChatGPT ответил в среднем 4086 символов. Многие исследователи с тех пор пытались повторить это исследование, но так и не обнаружили каких-либо существенных различий. Это может быть связано с дизайном исследования, поэтому сейчас прорабатываются другие способы исследования предполагаемого явления.

Некоторые пользователи полагают, что материнская компания OpenAI намеренно сделала чат-бота ленивым, чтобы снизить нагрузку на системы компании. По мнению OpenAI, это не так, и они заявляют, что серьезно относятся к отзывам пользователей: «Мы уже видели, как ваши отзывы о GPT4 становятся все более ленивыми! Мы не обновляли модель с 11 ноября, и это определенно не намеренно». «Поведение модели может быть неожиданным, и мы выясняем, сможем ли мы решить эту проблему», — написал около недели назад официальный аккаунт чат-бота в X (ранее Twitter).

Хотя люди, стоящие за ChatGPT, не верят, что модель изменилась сама по себе после обновления от 11 сентября, они не исключают возможности наличия небольших различий в некоторых командах или вопросах. По данным компании, может пройти некоторое время, прежде чем клиенты заметят эти небольшие различия как закономерности, а это означает, что также может пройти некоторое время, прежде чем сотрудники смогут внести коррективы в шаблон.

Многие программисты и эксперты в области искусственного интеллекта в настоящее время проводят обширные исследования «гипотезы лени». Тот факт, что нельзя исключать даже зимнюю депрессию чат-бота со стороны пользователей, заключается в том, что вклад людей также используется ChatGPT для обучения. Некоторые пользователи считают, что если пользователи страдают от зимней депрессии, они могут случайно передать это чат-боту через свои данные.

Это также может относиться к тому, как мы отдаем команды чат-боту. Сколько усилий мы еще вкладываем в выдачу четких инструкций программам, работающим на искусственном интеллекте? Предоставление конкретных инструкций («Объясните шаг за шагом…») может дать лучшие результаты, чем «Расскажите мне, как…», и снова другие пользователи используют уловки, чтобы побудить своего любимого чат-бота давать более точные ответы. Иногда просто лгая, что у них нет пальцев, в других случаях обещая чат-боту чаевые. Другие пользователи говорят, что более гуманный подход с поощрением типа «сделай глубокий вдох» также даст лучшие результаты.

Наконец, наше воображение также может сыграть свою роль. Теперь, когда сообщения о ленивом языковом боте появляются тут и там, возможно, мы начинаем более критично относиться к ответам ChatGPT.

А что, если мы спросим само приложение? Он полностью отрицает, что в этот период года работает меньше: «Как модель машинного обучения я не подвержен усталости, лени или сезонным эффектам».