FrankenTech: Честно ли Маск и его коллеги говорят об паузе ИИ или просто играют в покер ради позиции?

В романе Мэри Шелли «Франкенштейн». Ученый Виктор Франкенштейн использует части мертвого тела, чтобы создать сверхразумного монстра, сведенного с ума человеческой жестокостью и изоляцией, который в конечном итоге восстает против своего создателя. С момента публикации в 1818 году рассказ Шелли об ошибочных научных исследованиях рассматривался как метафора опасности (и безрассудства) попыток оснастить машины человеческим интеллектом.

История Шелли получила новый резонанс с распространением генеративного ИИ. 22 марта Институт будущего жизни опубликовал открытое письмо, подписанное сотнями технологических лидеров, в том числе генеральным директором Tesla Илоном Маском и соучредителем Apple Стивом Возняком, в котором содержится призыв к шестимесячной паузе (или установленной правительством задержке) в разработке систем. , ИИ более мощный, чем недавно выпущенный OpenAI ChatGPT-4.

«Системы искусственного интеллекта с человеческим конкурентным интеллектом могут представлять значительный риск для общества и человечества», — говорится в письме, которое на данный момент подписали более 25 000 человек. Авторы также предупреждают о «неконтролируемой» гонке «по разработке и развертыванию все более мощных цифровых умов, которые никто — даже их создатели — не может надежно понять, предсказать или контролировать».

Соучредитель OpenAI

Маск, в настоящее время второй самый богатый человек в мире, во многом является Виктором Франкенштейном нашего времени. Миллиардер южноафриканского происхождения, который ведет себя крайне показушно, уже пытался автоматизировать все операции по вождению (хотя и со смешанными результатами), утверждал, что изобретает новый вид транспорта с помощью (но гипотетического) проекта Hyperloop компании Boring, и заявил, что он намеревался сделать это. «Сохраните свет сознания», основав колонию на Марсе вместе с ракетной компанией SpaceX.

Маск также является соучредителем OpenAI (он ушел из совета директоров компании в 2018 году после неудачной заявки на поглощение).

Один из любимых проектов Маска — сочетание искусственного интеллекта и человеческого сознания. В августе 2020 года Маск показал свинью с имплантированным в мозг компьютерным чипом, чтобы продемонстрировать так называемый «интерфейс мозг-машина», разработанный его технологическим стартапом Neuralink.

Когда свинья Гертруды ела или нюхала сено, график отслеживал ее нейронную активность. Маск сказал, что эту технологию можно использовать для лечения потери памяти, беспокойства, зависимости и даже слепоты. Несколько месяцев спустя Neuralink выпустила видео обезьяны, играющей в видеоигру благодаря устройству, имплантированному в ее мозг.

Эти трюки сопровождались обычным хвастовством Маска. Он надеялся, что технология увеличения мозга Neuralink возвестит эру «сверхпознания», когда компьютерные чипы, улучшающие умственные функции, будут широко (и недорого) доступны. Он сказал, что процедура ее трансплантации будет полностью роботизированной и минимально инвазивной. Каждые несколько лет по мере совершенствования технологий чипы можно снимать и заменять новой моделью. Впрочем, это все предположения. Neuralink все еще пытается сохранить жизнь своим тестовым обезьянам.

Сингулярность близка

Пока Маск пытается создать киборга, людей вскоре могут заменить машины. В своей книге 2005 г. Сингулярность близка Футурист Рэй Курцвейл предсказал, что технологическая сингулярность — точка, в которой искусственный интеллект превзойдет человеческий, — наступит в 2045 году. постапокалиптическое будущее.Человек.

После сингулярности, по Курцвейлу, ИИ в виде самовоспроизводящихся нанороботов мог распространяться по Вселенной, пока не «насытился» разумной (пусть и искусственной) жизнью. После Иммануила Канта Курцвейл назвал этот процесс «пробуждением вселенной».

Но теперь, когда сингулярность почти наступила, Маск и компания, похоже, размышляют. Судя по всему, прошлогодний релиз ChatGPT вызвал панику среди этих бывших евангелистов ИИ, заставив их не рекламировать преимущества сверхразумных машин, а заняться поиском способов избежать ошибок.

В отличие от поисковой системы Google, которая предоставляет пользователям список ссылок, ChatGPT может быстро и последовательно отвечать на вопросы. Мой друг-философ недавно спросил ChatGPT: «Есть ли отчетливо женский стиль в моральной философии?» И отправить ответы коллегам. Кто-то подумал, что это «человек-рептилия». Конечно, она написала: «Это довольно банальное эссе, но, по крайней мере, оно ясное, грамматичное и отвечает на вопрос, что делает его лучше, чем многие эссе наших студентов».

Тест Тьюринга

Другими словами, ChatGPT проходит тест Тьюринга и демонстрирует интеллектуальное поведение, неотличимое от поведения человека. Эта технология уже стала кошмаром для академических педагогов, и ее быстрое развитие предполагает, что ее широкое распространение может иметь катастрофические последствия.

Тогда что делать? В недавнем политическом документе Института будущего жизни (частично финансируемого Маском) предлагается несколько способов управления рисками ИИ. Предложения включают аутсорсинг аудита и сертификации, регулирование доступа к вычислительной мощности, создание «дееспособных» регуляторов на национальном уровне, установление ответственности за вред, причиненный ИИ, увеличение финансирования исследований в области безопасности и разработку стандартов для определения и управления генерируемым ИИ. содержание.

Но во времена обострения геополитической борьбы и идеологической поляризации кажется крайне маловероятным, что новые технологии искусственного интеллекта можно будет использовать в качестве оружия, не говоря уже о согласовании глобальных стандартов.

Более того, хотя предлагаемый мораторий якобы предназначен для того, чтобы дать лидерам отрасли, исследователям и политикам время понять экзистенциальные риски этой технологии и разработать соответствующие протоколы безопасности, мало оснований полагать, что сегодняшние технологические лидеры полностью понимают этические последствия своих действий. инновации. Понимать.

В любом случае, неясно, что будет означать разрыв на практике. Маск, например, уже работает над стартапом в области искусственного интеллекта, который будет конкурировать с OpenAI. Искренны ли современные последователи Виктора Франкенштейна в отношении паузы в генеративном ИИ или они просто борются за должность?

Роберт Скидельски, член Палаты лордов, почетный профессор политической экономии Уорикского университета.
Авторское право: Project Syndicate, 2023.
www.project-syndicate.org