OpenAI распускает команду, которая должна была обеспечить безопасность ее «сверхинтеллектуального» ИИ — IT Pro — Новости

OpenAI распустила свою команду, ответственную за снижение рисков безопасности для своих передовых систем искусственного интеллекта. По данным OpenAI, группа будет интегрирована в другие исследовательские подразделения. Один из руководителей команды критикует компанию в X.

OpenAI подтверждает В Блумберг Она распустила команду «Супервыравнивание». Эта команда И он был в Он был создан в июле 2023 года для снижения рисков будущих систем искусственного интеллекта, которые считаются «умнее» человека. Раздел Это была его цель К 2027 году решить основные технические проблемы контроля и управления «сверхумным искусственным интеллектом».

OpenAI сообщила информационному агентству, что группа больше не будет существовать как независимое подразделение, а вместо этого будет «более глубоко интегрирована в нашу исследовательскую деятельность для достижения целей безопасности». Руководители команды Илья Суцкевер и Ян Лайки ушли из компании на этой неделе. Первый является соучредителем OpenAI и в прошлом году голосовал за отстранение генерального директора Сэма Альтмана. Причину своего ухода он не назвал.

Нравиться Дайте нам знать на что у него были разногласия с менеджерами OpenAI в течение некоторого времени по поводу «основных приоритетов» и что теперь был достигнут «переломный момент». Сообщается, что в последние месяцы команда не получила достаточных ресурсов для продолжения своих «важнейших» исследований. «Создание машин, более умных, чем люди, — это по своей сути опасное предприятие. OpenAI несет огромную ответственность от имени всего человечества, но в последние годы культура и процедуры безопасности стали второстепенными по сравнению с блестящими продуктами».

Альтман, спасибо В сообщении на X За вклад в расследование безопасности. Он также лаконично отвечает на посты исследователя: «Он прав, нам еще многое предстоит сделать, и мы хотим этого придерживаться».