Чат-бот Anthropic с искусственным интеллектом теперь может обрабатывать 75 000 слов за один разговор — IT Pro — Новости

Чат-бот Claude на базе искусственного интеллекта от стартапа Anthropic получил обновление, которое позволяет ему обрабатывать 100 000 контекстных «токенов» в одном разговоре, что соответствует примерно 75 000 слов. Таким образом, робот может «прочитать» целую книгу менее чем за минуту, говорится в сообщении стартапа.

До этого у бота был лимит в 9000 токенов. Для сравнения, стандартная модель OpenAI GPT-4 в настоящее время также имеет ограничение контекста в 9000 токенов, в то время как более крупная версия Он имеет пределы 32 000 токенов. антропный Я проверил увеличение Добавляя весь текст «Великого Гэтсби» в виде вложения с одним настраиваемым предложением. Затем их спросили, какое предложение было изменено. Робот нашел корректировку за 22 секунды, говорится в сообщении стартапа.

По словам Anthropic, это позволяет компаниям анализировать сотни страниц материала Клода. По словам стартапа, это можно использовать, например, для суммирования до шести часов письменного аудио или для взвешивания плюсов и минусов конкретного законодательного акта. Это также позволяет продолжать разговоры в течение нескольких часов или даже дней, прежде чем будет достигнут предел контекста. Новая версия чат-бота в настоящее время доступна только бизнес-партнерам Anthropic через API.

Ранее Alphabet, материнская компания Google, вложила в стартап $300 млн, но причина вложений не разглашается. Стартап заявил, что хочет сотрудничать с Google Cloud для обеспечения своих систем искусственного интеллекта.