Google, Microsoft, OpenAI и другие обещают сделать ИИ более безопасным — IT Pro — Новости

Семь производителей ИИ пообещали правительству США принять меры, чтобы сделать их ИИ более безопасным. Компании заявляют, что выполнят обещания в кратчайшие сроки. Это добровольные обещания без последствий в случае их нарушения.

с обещаниями говорит правительство США Этот корпоративный ИИ должен стать безопаснее и надежнее. Например, компании обязуются тестировать ИИ внутри и снаружи, причем тесты частично проводятся независимыми экспертами с учетом самых больших рисков. Компании также заявляют, что они делятся информацией, например, о рисках ИИ в отрасли, а также с правительствами и учеными. Компании также обязуются продолжать исследования таких рисков.

Компании обязуются продолжать инвестировать в кибербезопасность для защиты ключевых компонентов ИИ и предотвращения выпуска небезопасных ИИ. Они также обещают проводить сторонние исследования и дают исследователям возможность сообщать об уязвимостях в их ИИ.

Что касается надежности, производители ИИ обещают указывать водяными знаками, например, когда что-то было сделано ИИ, чтобы другие могли видеть. Организации также обязуются четко указывать, что может делать ИИ, а что нет. Кроме того, компании стремятся разрабатывать системы искусственного интеллекта, которые можно использовать в социальных целях, таких как исследования рака и изменения климата.

Amazon, Anthropic, Google, Inflection, Meta, Microsoft и OpenAI взяли на себя обязательства перед правительством США. Правительство также работает над одним распоряжение Закрепить меры ИИ в законодательстве, хотя правительство еще не предоставило подробностей по этому вопросу.