Крестный отец искусственного интеллекта предупреждает о большей опасности от изменения климата

По словам пионера ИИ Джеффри Хинтона, быстрое развитие генеративного ИИ в настоящее время представляет большую опасность для человечества, чем климатический кризис.

Этот человек, которого многие считают крестным отцом искусственного интеллекта, всего несколько дней назад покинул свой пост в Google, чтобы рассказать об опасностях искусственного интеллекта. И пусть на нем не растет трава.

Климат против ИИ

Джеффри Хинтон хочет прояснить одну вещь: он никоим образом не преуменьшает важность климатического кризиса. Он не хочет сказать, что мы не должны беспокоиться о климате, и он, конечно, понимает, что это тоже рискованная ситуация. Но, по словам ученого, опасность того, что ИИ станет умнее своих создателей, сейчас более актуальна.

Само по себе немного удивительно, что Джеффри Хинтон смог развернуть свою колесницу на 180 градусов. Мужчина десятилетиями занимается исследованием развития искусственного интеллекта. Это даже принесло ему престижную премию Тьюринга несколько лет назад. В Google он работал экспертом по искусственному интеллекту. Он также остается профессором компьютерных наук в Университете Торонто.

И, конечно же, со всем этим багажом мало кто может оценить риски ИИ лучше, чем Хинтон. Однако решение не совсем ясно.

мировая проблема

Этот человек — не единственное громкое имя, выразившее озабоченность по этому поводу. Во всем мире растет интерес к рискам, связанным с генеративным ИИ. Например, в прошлом месяце было опубликовано открытое письмо с призывом приостановить исследования в области ИИ как минимум на шесть месяцев. На него подписались тысячи людей из технологической индустрии, в том числе Илон Маск; Но один из основателей OpenAI, компании, стоящей за ChatGPT.

На данный момент в разработке находится европейский закон, который сделает работу ИИ более прозрачной. Недавно было добавлено предложение, требующее от таких компаний, как OpenAI, раскрывать защищенные авторским правом данные, которые они используют для обучения генеративного ИИ.

Читайте также

ИИ, который знает ваши данные наизнанку: Salesforce запускает Tableau AI и Pulse

Европейский союз также призвал президента США Джо Байдена провести глобальный саммит по искусственному интеллекту с главой Европейской комиссии Урсулой фон дер Ляйен. Сам Байден уже ведет переговоры в Белом доме с несколькими руководителями связанных технологических компаний (включая Сэма Альтмана из OpenAI), чтобы обсудить эту тему.

По словам Хинтон, для политиков очень важно тесно сотрудничать с технологическим сектором. Однако он не в восторге от этого шестимесячного перерыва; По его словам, важно продолжать исследования, а затем выяснить, что можно сделать с очень быстрым ростом искусственного интеллекта. Он даже назвал идею такого разрыва нереальной.