Голландский IT-канал – ChatGPT показывает странное поведение

ChatGPT был представлен миру чуть больше года назад. Программное обеспечение для чат-ботов за короткое время стало очень популярным. Менее чем за два месяца ChatGPT достиг ста миллионов пользователей, что является беспрецедентным достижением в мире технологий. Инструмент обязан своей популярностью многим задачам, которые он может выполнять. Будь то написание текста, генерация кода или заполнение электронной таблицы: ChatGPT стал незаменимым инструментом на рабочем месте для многих людей.

Но в последние недели чат-бот начал демонстрировать несколько странное поведение. Пользователи X, ранее известного как Twitter, все чаще сообщают, что ChatGPT не отвечает на их вопросы или отвечает на них лишь частично. Например, вместо того, чтобы генерировать код, инструмент показывает пользователям, как его написать самостоятельно. Хотите заполнить CSV-файл (спецификацию файлов таблиц)? Сделай сам.

OpenAI сам не знает

Проблема быстро достигла таких масштабов, что сама OpenAI была вынуждена отреагировать. «Мы не обновляли модель с 11 ноября, и, конечно, не собираемся этого делать. Поведение модели может быть непредсказуемым, и мы пытаемся это исправить», — заявила компания, создавшая чат-бот. Другими словами, сама OpenAI понятия не имеет , о том, что происходит.

Мы услышали все ваши комментарии о том, что GPT4 слишком ленив! Мы не обновляли модель с 11 ноября, и это явно не намеренно. Поведение формы может быть непредсказуемым, и мы пытаемся это исправить 🫡

— ЧатGPT (@ChatGPTapp) 8 декабря 2023 г.

Затем пользователи должны выяснить, в чем дело. Некоторым пришла в голову удивительная идея, что это связано со временем года. В частности, говорят, что ChatGPT страдает от сезонной депрессии. Логика этого заключается в том, что модель узнала бы из наборов данных, на которых она была обучена, о том, что люди замедляются в декабре, и могла бы имитировать это поведение.

Мишель Вандендрайх, соучредитель Leuven AI-стартапа Raccoons, объясняет это подробнее. «Есть люди, которые исследовали этот вопрос и говорят о статистически значимом результате». Например, по мнению исследователей, если вы введете задание в мае, вы получите более сложные ответы, чем в декабре. «Но сам OpenAI не обнаружил никакой связи», — говорит Вандендрайх.

Сам он считает маловероятным, что зима повлияет на поведение ChatGPT. «Мне кажется очень странным, что это на самом деле причина», — сказал он. Другое возможное объяснение, по мнению экспертов из Raccoons Vandendriessche, заключается в том, что в зимние месяцы энергия просто дорожает, что может заставить OpenAI сознательно принять решение о сокращении производства. С другой стороны, OpenAI противоречит сама себе, заявляя, что сама не знает причины, признает Вандендрайх.

Другое возможное объяснение заключается в том, что нагрузка на серверы просто стала слишком большой из-за огромной популярности ChatGPT. Например, в середине ноября OpenAI была вынуждена временно прекратить прием новых регистраций. Это произошло вскоре после первого OpenAI DevDay, на котором были анонсированы некоторые новые инструменты, включая возможность создания собственного чат-бота GPT. В середине декабря генеральный директор Сэм Альтман опубликовал на X следующее: «Мы снова включили подписку ChatGPT+!» Спасибо за ваше терпение, пока мы находим больше графических процессоров. Однако с тех пор пользователи все еще жалуются на низкую эффективность ChatGPT.

'черный ящик'

Хотя до сих пор не совсем ясно, что происходит и страдает ли ChatGPT от зимней хандры, одно можно сказать наверняка. Технологии все чаще начинают вести себя как «черный ящик». Это означает, что мы знаем только входы и выходы, но на самом деле понятия не имеем, что происходит внутри системы.

«Даже старшие исследователи OpenAI не могут каким-либо образом предсказать, даже глядя на базовый код, точный результат», — говорит Вандендрайх. В конце концов, LLM или большие языковые модели (алгоритмы, которые могут генерировать контент, используя очень большие наборы данных; в случае ChatGPT — почти весь Интернет) работают, выполняя сложные вычисления для получения ответа. «Эти расчеты просто выходят за рамки человеческого понимания», — сказал соучредитель Raccoons.

«Поскольку системы становятся более сложными, мы все чаще будем просто не знать, что происходит», — говорит Вандендрайх. «Однако это не должно быть проблемой. Пока мы можем убедиться, что результаты не являются чрезмерными, мы должны спросить себя, насколько плохо то, что мы не всегда понимаем, как ИИ достиг конкретного отвечать.»

сделай глубокий вдох

Но даже если мы не всегда знаем, почему чат-бот дает определенный ответ, мы тем временем можем найти способы генерировать желаемый результат. И здесь ChatGPT иногда, кажется, берет на себя управление человеческим поведением.

Например, чем больше наконечник, тем длиннее становится ответ. Другие говорят, что ChatGPT нужно немного подбадривать их, чтобы они продолжали идти вперед, как тренер дает спортсмену дополнительный толчок. Даже если вы попросите чат-бота сделать глубокий вдох перед ответом, это сработает лучше. Даже написание всего заглавными буквами, кажется, дает эффект.

Итак, в следующий раз, когда ChatGPT даст вам неутешительный ответ, просто наберитесь терпения. Возможно, вам просто нужно проявить больше сочувствия и вежливо спросить, хочет ли чат-бот сделать это еще раз. Если это не сработает, вы всегда можете попробовать подкупить инструмент.