Искусственный интеллект открывает новый способ умножения сетей чисел — New Scientist

Система искусственного интеллекта обнаружила новый метод умножения матриц, который включает перемножение строк и столбцов чисел вместе. Это может увеличить скорость вычислений компьютеров до 20 процентов.

Искусственный интеллект (ИИ) от DeepMind открыл новый способ умножения количества сетей (массивов) вместе. Впервые за более чем пятьдесят лет в этой «простой» математической операции был достигнут значительный прогресс. Поскольку этот тип умножения лежит в основе многих вычислительных задач, открытие может увеличить скорость некоторых вычислений до 20 процентов.

пчела умножение матриц Строки и столбцы чисел перемножаются. Это вычислительная задача, которая встречается почти во всех программах, особенно в графических приложениях, приложениях искусственного интеллекта и научного моделирования. Даже небольшое улучшение эффективности этих алгоритмов может сэкономить много энергии.

Первый взлом за 50 лет

На протяжении веков считалось, что наиболее эффективный способ умножения матриц пропорционален количеству перемножаемых элементов. Другими словами, чем больше массивы, тем сложнее задача.

В 1969 году математик Фолькер Штрассен доказал, что умножение двух матриц из двух строк и двух столбцов не обязательно требует восьми умножений. Используя хитрый прием, это число можно уменьшить до семи. Этот подход, называемый алгоритмом Штрасса, требует дополнительного сложения, но это небольшая жертва: сложение занимает гораздо меньше компьютерного времени, чем умножение.

Алгоритм Штрасса был наиболее эффективным подходом для большинства размеров массивов на протяжении более пятидесяти лет. Обнаружены некоторые мелкие улучшения, но попасть в компьютерные коды непросто.

Искусственный интеллект DeepMind под названием AlphaTensor обнаружил более быстрый метод, который работает только на существующем оборудовании. Перед AlphaTensor стояла задача разработать работающий алгоритм, который выполнял бы работу за наименьшее возможное количество шагов. Искусственный интеллект нашел алгоритм умножения двух матриц из четырех строк и четырех столбцов всего за 47 умножений. Это лучше, чем 49 умножений, требуемых алгоритмом Штрассена.

AlphaTensor также разработала технологии для матриц других размеров. Всего ему удалось найти новые алгоритмы для семидесяти различных форматов матриц.

Для каждого размера матрицы AlphaTensor обнаружила тысячи рабочих алгоритмов. Для матриц 4×4, например, он нашел 14 000. Но лишь немногие из них оказались лучше текущего алгоритма.

интуитивный искусственный интеллект

Мир искусственного интеллекта Хусейн Вузич В DeepMind говорят, что результаты точны с точки зрения вычислений, но далеко не интуитивно понятны для человека. «Мы действительно не знаем, почему система придумала это, — говорит он. «Почему это лучший способ перемножать матрицы?» Это не ясно.

«ИИ каким-то образом развивает интуицию в отношении того, что выглядит хорошо, а что плохо. Честно говоря, я не могу точно сказать вам, как это работает. Я думаю, что еще предстоит проделать некоторую теоретическую работу, прежде чем мы поймем, как именно ИИ делает эти вещи», — сказал он. — говорит Фаузи.

прирост энергии

Алгоритмы могут увеличить скорость вычислений компьютерных компонентов на 10-20 процентов. Это было протестировано, среди прочего, с использованием графического процессора от производителя компьютеров Nvidia и Блок управления натяжителем от Google. Неясно, можно ли добиться этих результатов на обычных устройствах, таких как смартфон или ноутбук.

компьютерный мир Джеймс Найт из Университета Сассекса в Великобритании говорит, что все виды программного обеспечения, работающего на суперкомпьютерах, такие как системы искусственного интеллекта и моделирования погоды, в основном представляют собой не что иное, как умножение матриц в масштабе. «Если такой подход будет реализован там, это ускорит процесс», — говорит он.

компьютерный мир Одед Лахиш из Университетского колледжа Лондона утверждает, что новые алгоритмы могут повысить эффективность многих программ, поскольку умножение матриц является обычным процессом.

Больше ИИ-решений

Кроме того, по его словам, вероятно, последуют новые алгоритмы. «Я думаю, что мы увидим больше разработанных ИИ решений для других проблем аналогичного характера, даже если это редко что-то столь важное, как умножение матриц».

«Спрос на такие технологии огромен, потому что более легкий алгоритм означает не только более быстрые результаты, но и меньшее энергопотребление», — говорит Лакиш. Это позволяет выполнять более легкую задачу на небольших, менее энергоемких ПК или на тех же ПК, но за меньшее время.

Достижения DeepMind не означают, что программисты останутся без работы. Стоит ли волноваться программистам? Возможно, в далеком будущем», — говорит Лахиш. Автоматическая оптимизация используется в производстве микрочипов уже несколько десятилетий. Это просто еще один важный инструмент для программиста-человека.

удвоение матрицы

Вы можете умножить две матрицы, всегда умножая строку первой матрицы на столбец второй матрицы.

Возьмем, например, две матрицы 2 х 2. В первом квадрате (вверху слева) результата умножьте строку 1 матрицы 1 на столбец 1 матрицы 2. Для этого умножьте первое число первой строки матрицы 1 на первое число столбца. Первое число матрицы 2. Прибавляет результат к произведению второго числа первой строки матрицы 1 и второго числа первого столбца матрицы 2. Для второго квадрата (верхнего справа) вы делаете то же самое, только теперь вы берете числа из строки 1 в матрице 1 и столбца 2 в матрице 2. Таким образом, вы можете постепенно заполнить четыре квадрата.