28 февраля, 2024

Frant.me

Информационный портал Кузбасса

Жаждут ли чат-боты с искусственным интеллектом рождественских каникул?  Расследование по жалобам на «ленивый» ChatGPT |  Техника

Жаждут ли чат-боты с искусственным интеллектом рождественских каникул? Расследование по жалобам на «ленивый» ChatGPT | Техника

Ближе к концу года большинство людей жаждут рождественских каникул. И, возможно, на работе мы справимся с этим немного проще. Но применимо ли это также к приложениям на основе искусственного интеллекта? Так считают некоторые пользователи популярного языкового бота ChatGPT. Эксперты сейчас проводят расследование, и материнская компания OpenAI также серьезно относится к жалобам.


Р Л



источник:
Ars Tecica, The Verge, The Independent, специальные репортажи

Все больше и больше пользователей новой (платной) версии ChatGPT (модель GPT4) жалуются, что чат-бот дает более короткие ответы, отказывается делать то, что просят люди, или даже приводит к сбою пользователей. Тон, который иногда принимает ChatGPT, некоторые пользователи считают грубым или ленивым. Другие люди даже задаются вопросом, страдает ли чат-бот от зимней депрессии. Об этом сообщили технологические сайты «Ars Technica», «The Verge» и другие.

Один программист проверил сумму и дал ChatGPT 477 команд, при этом в качестве входных данных был изменен только месяц. Он обнаружил, что языковой бот дал более длинный ответ (в среднем 4298 символов), когда ему сказали, что сейчас май, чем декабрь. В этом случае ChatGPT ответил в среднем 4086 символов. Многие исследователи с тех пор пытались повторить это исследование, но так и не обнаружили каких-либо существенных различий. Это может быть связано с дизайном исследования, поэтому сейчас прорабатываются другие способы исследования предполагаемого явления.

Некоторые пользователи полагают, что материнская компания OpenAI намеренно сделала чат-бота ленивым, чтобы снизить нагрузку на системы компании. По мнению OpenAI, это не так, и они заявляют, что серьезно относятся к отзывам пользователей: «Мы уже видели, как ваши отзывы о GPT4 становятся все более ленивыми! Мы не обновляли модель с 11 ноября, и это определенно не намеренно». «Поведение модели может быть неожиданным, и мы выясняем, сможем ли мы решить эту проблему», — написал около недели назад официальный аккаунт чат-бота в X (ранее Twitter).

READ  Цены на газ снова растут из-за опасений конфликта на Ближнем Востоке деньги

Хотя люди, стоящие за ChatGPT, не верят, что модель изменилась сама по себе после обновления от 11 сентября, они не исключают возможности наличия небольших различий в некоторых командах или вопросах. По данным компании, может пройти некоторое время, прежде чем клиенты заметят эти небольшие различия как закономерности, а это означает, что также может пройти некоторое время, прежде чем сотрудники смогут внести коррективы в шаблон.

Зимняя депрессия

Многие программисты и эксперты в области искусственного интеллекта в настоящее время проводят обширные исследования «гипотезы лени». Тот факт, что нельзя исключать даже зимнюю депрессию чат-бота со стороны пользователей, заключается в том, что вклад людей также используется ChatGPT для обучения. Некоторые пользователи считают, что если пользователи страдают от зимней депрессии, они могут случайно передать это чат-боту через свои данные.

Это также может относиться к тому, как мы отдаем команды чат-боту. Сколько усилий мы еще вкладываем в выдачу четких инструкций программам, работающим на искусственном интеллекте? Предоставление конкретных инструкций («Объясните шаг за шагом…») может дать лучшие результаты, чем «Расскажите мне, как…», и снова другие пользователи используют уловки, чтобы побудить своего любимого чат-бота давать более точные ответы. Иногда просто лгая, что у них нет пальцев, в других случаях обещая чат-боту чаевые. Другие пользователи говорят, что более гуманный подход с поощрением типа «сделай глубокий вдох» также даст лучшие результаты.

READ  «Продавец попросил расписаться заранее, что мы и сделали»: компания Bodil (44 года) случайно купила две кухни | мошенники с деньгами

Наконец, наше воображение также может сыграть свою роль. Теперь, когда сообщения о ленивом языковом боте появляются тут и там, возможно, мы начинаем более критично относиться к ответам ChatGPT.

А что, если мы спросим само приложение? Он полностью отрицает, что в этот период года работает меньше: «Как модель машинного обучения я не подвержен усталости, лени или сезонным эффектам».

Сам ChatGPT отрицает любую форму лени.
Сам ChatGPT отрицает любую форму лени. © ЧатGPT