Правительства и бизнес не остановят гонку за ИИ

Ученые и эксперты призывают сделать паузу в «масштабных экспериментах в области искусственного интеллекта (ИИ)». В реальности же этого не произойдет. Таково мнение швейцарского ученого Юргена Шмидхубера. 

В прошлом я сам подписывал письма, предупреждающие о том, каким опасным оружием может оказаться ИИ. Однако я не думаю, что упомянутое письмо окажет какое-либо значительное влияние на ситуацию с развитием систем искусственного интеллекта. Многие эксперты, компании и правительства просто полностью проигнорируют его. 

В этом письме часто используется слово «мы» и говорится о «нас», людях. Однако некоего среднестатистического «мы», с которым мог бы себя идентифицировать каждый из нас, просто не существует. Спросите какое угодное количество людей, и Вы услышите такое же количество самых различных мнений о том, что такое «хорошо» и что такое «плохо». Многие из этих мнений будут диаметрально противоположны и совершенно несовместимы друг с другом.   

В этом письме также говорится: «Если такую паузу нельзя быстро ввести в действие, то тогда правительства должны будут вмешаться и объявить мораторий…». Проблема, однако, в том, что разные правительства также имеют разные представления о том, что хорошо для них и что годится для других. Великая держава А скажет: если мы не сделаем этого, то тогда Великая держава Б сделает это, возможно, тайно, получив преимущество над нами. То же самое верно будет и для Великих держав C, D и E.  

Какую роль здесь могла бы сыграть Швейцария? Она должна непременно оставаться на переднем крае исследований в области ИИ. По состоянию на 2020 год Швейцария публиковала гораздо больше докладов на крупных конференциях, посвященных теме ИИ, чем любая другая страна в пересчете на душу населения. Любой мораторий только навредит ее конкурентоспособности.  

Эволюция, длившаяся десятилетия 

Возьмем, например, программу ChatGPT. Она основана на фундаменте, разработанном учеными и исследователями, которые сейчас работают в нашей компании NNAISENSE, расположенной в Лугано. Девизом этой компании является лозунг AI∀ или AI For All («ИИ для всех»). Чат-бот ChatGPT использует искусственную нейронную сеть типа transformer, которая с целью обработки естественного языка полагается на механизмы, близкие или по меньшей мере способные имитировать человеческие когнитивные алгоритмы. 

Что такое механизм самовнимания? 

Это процесс, при котором система автоматически выбирает и обрабатывает наиболее значимые и важные сигналы из внешней среды, игнорируя менее важные или незначительные сигналы. Этот механизм позволяет системе сосредоточиться на задачах, наиболее важных для ее выживания и функционирования.

Механизм самовнимания является ключевым процессом в биологических системах, таких как человеческий мозг, и позволяет им адаптироваться к изменяющейся внешней среде. В мозге этот механизм реализуется через сеть нейронов, которые могут обрабатывать информацию в режиме реального времени и выбирать наиболее важные и значимые сигналы.

Механизм самовнимания также широко используется в технических системах, таких как компьютерные программы и роботы. Например, в компьютерном зрении он позволяет системе автоматически выделять наиболее значимые объекты на изображениях и игнорировать шум и фоновые элементы. В робототехнике этот механизм позволяет роботу выбирать наиболее важные задачи и сосредоточиваться на них, что повышает эффективность его работы.

В целом, механизм самовнимания играет важную роль в функционировании и адаптации систем к изменяющейся внешней среде, и его изучение является одним из ключевых направлений в научных исследованиях в области биологии, нейронауки и технологий.

Текст получен от платной версии ChatGPT и публикуется в качестве примера без редактирования

В 2017 году сотрудники концерна Google опубликовали об этом типе сетей широко цитируемую статью под названием «Внимание — это все, что вам нужно» (Attention is All you Need). Я рад этому тексту, потому что я сам более 30 лет назад опубликовал вариант такого трансформера, который теперь называется «Трансформер с линеаризованным механизмом самовнимания». Недавно я представил дополнительные исследования на эту тему. 

Модели, лежащие в основе GPT, зависят еще и от так называемых «остаточных связей» — механизмов, которые дают одинаковым пакетам данных разные пути к одним и тем же частям данной нейронной сети, пропуская некоторые слои, что позволяет выполнять так называемое «итерационное уточнение».

Механизм «остаточных связей», также очень важный для такого рода программ, на самом деле корнями уходит в нашу LSTM, самую цитируемую искусственную нейронную сеть 20-го века, а также в нашу же Highway Network, первую по-настоящему «глубоко обучаемую» нейронную сеть, принципы которой сегодня можно найти в тысячах коммерческих приложений. 

Что такое итерационное уточнение?

Итерационное уточнение — это метод решения задач, при котором решение получается через повторяющиеся итерации (циклы), каждый из которых уточняет предыдущее решение. Этот метод широко используется в науке и инженерии для решения различных задач, таких как решение уравнений, оптимизация параметров, обработка сигналов и т.д.

Суть итерационного уточнения заключается в следующем: в начале устанавливается начальное приближение решения задачи. Затем выполняется серия итераций, в которых текущее решение уточняется путем решения задачи с использованием новых данных или параметров. После каждой итерации вычисляется разница между текущим и предыдущим решением, и если эта разница меньше заданной точности, процесс останавливается и полученное решение принимается как окончательное.

Итерационное уточнение является очень мощным методом решения задач, так как позволяет получать решения с высокой точностью, не требует решения сложных уравнений аналитически и может применяться для широкого спектра задач. Однако он также может быть вычислительно затратным, особенно для больших и сложных задач, и требует определенных знаний и навыков для эффективной реализации.

Текст получен от платной версии ChatGPT и публикуется в качестве примера без редактирования

Что будет дальше? Я часто сравниваю чат-бот ChatGPT и иные подобные языковые модели с политиками. Они обычно умеют хорошо говорить, способны дать быстрый, сразу готовый к цитированию в прессе, ответ почти на любой вопрос.

Политики умело комбинируют лозунги и тезисы, которые они использовали в своих предыдущих речах, применяя все новые и новые способы, так что от них вы никогда не получите двух одинаковых ответов. Тем не менее эти ответы часто оказываются банальностями без особого нового понимания проблемы и или без какой-либо глубины. 

Что такое остаточные связи? 

Это связи между атомами в молекулах, которые не могут быть однозначно определены экспериментально и могут быть вычислены только теоретически. Они являются результатом несовпадения экспериментальных данных и результатов расчетов, проводимых с помощью теоретических моделей.

Остаточные связи возникают, когда в эксперименте измеряются только расстояния между некоторыми атомами в молекуле, и не учитывается угловое расположение этих атомов. Теоретические модели, используемые для расчета структуры молекул, учитывают и угловое расположение атомов, что может привести к расхождениям с экспериментальными данными.

Остаточные связи обычно рассчитываются путем минимизации разницы между расстояниями между атомами, измеренными экспериментально, и теоретически рассчитанными значениями. Эти связи могут быть использованы для уточнения структуры молекул и улучшения теоретических моделей.

Остаточные связи играют важную роль в многих областях науки и техники, таких как химия, биохимия, физика и материаловедение. Они помогают улучшить понимание структуры и свойств молекул, что может привести к созданию новых материалов и технологий.

Текст получен от платной версии ChatGPT и публикуется в качестве примера без редактирования

Языковые модели, такие как ChatGPT, еще не очень хороши, они не способны предвидеть проблемы и продумывать те или иные темы с разных логических углов, так, как это делают математики и другие ученые.

С другой стороны, однако, у нас уже довольно давно есть нейронные сети, которые тоже могут обучаться подобным образом, по крайней мере, в принципе. Мы ожидаем здесь быстрого прогресса, который облегчит жизнь большому количеству людей. 

Мнения и суждения, выраженные в этом материале, принадлежат исключительно автору и не обязательно отражают позицию портала SWI swissinfo.ch.