«Гонка, которую невозможно остановить»: стоит ли переживать об искусственном интеллекте?
Ученые предупреждают, что машинное обучение скоро превзойдет человека — возможно, нам пора принять это к сведению.
В прошлый понедельник выдающийся пожилой британский ученый бросил гранату в лихорадочный муравейник исследователей и корпораций, в настоящее время одержимых искусственным интеллектом или ИИ (он же, по большей части, технология под названием машинное обучение). Этого ученого звали Джеффри Хинтон, и бомбой стала новость о том, что он покидает компанию Google, где последние 10 лет вел большую работу по машинному обучению, потому что хочет свободно выражать свои опасения по поводу того, куда движется технология, в создании которой он сыграл основополагающую роль.
Сказать, что это было большой новостью, значит сильно преуменьшить. Технологическая индустрия — это огромный, возбудимый зверь, который время от времени подвержен вспышкам «иррационального изобилия», то есть безумия. Одна из недавних таких вспышек была связана с криптовалютами и видением будущего интернета под названием «Web3», которое проницательный молодой блоггер и критик Молли Уайт назвала «огромным мошенничеством, которое заливает нашу уже тлеющую планету жидкостью для зажигалок».
В настоящее время мы находимся во власти очередной вспышки изобилия, вызванной «генеративным ИИ» — чат-ботами, большими языковыми моделями (LLM) и другими экзотическими артефактами, создаваемыми благодаря массовому внедрению машинного обучения, — которые индустрия сейчас рассматривает как будущее, для которого она усиленно готовится.
Недавно более 27 000 человек, включая многих знатоков технологии, были настолько встревожены рывком к антиутопии, управляемой машинами, что опубликовали открытое письмо, призывающее сделать шестимесячную паузу в развитии технологии.
Продвинутый ИИ может стать глубоким изменением в истории жизни на Земле, — говорилось в письме, — и его разработку и контроль нужно планировать с соразмерной осторожностью и ресурсами».
Это было милое письмо, напоминающее мою утреннюю проповедь кошкам о том, что они должны быть добры к мелким млекопитающим и садовым птицам. Технологические гиганты, которые имеют долгую историю безразличия к нуждам общества, учуяли новую возможность для мирового господства и не собираются позволить группе нервных интеллектуалов встать у них на пути.
Вот почему вмешательство Хинтона было столь значительным. Ведь он — тот самый человек, чьи исследования открыли технологию, которая теперь свободно распространяется в мире. И это довольно убедительная причина для того, чтобы сесть и обратить на него внимание. Он действительно выдающаяся личность. Если существует такая вещь, как интеллектуальная родословная, то Хинтон — чистокровная порода. Его отец, энтомолог, был членом Королевского общества. Его прапрадедом был Джордж Буль, математик XIX века, который изобрел логику, лежащую в основе всех цифровых вычислений.
Его прадедом был Чарльз Говард Хинтон, математик и писатель, чья идея о «четвертом измерении» стала основой научной фантастики и нашла отражение в супергеройских фильмах Marvel 2010-х годов. А его двоюродная сестра, физик-ядерщик Джоан Хинтон, была одной из немногих женщин, работавших в военное время над Манхэттенским проектом в Лос-Аламосе, в результате которого была создана первая атомная бомба.
Всю свою взрослую жизнь Хинтон был одержим искусственным интеллектом, и особенно проблемой создания машин, способных обучаться. Ранний подход к этому заключался в создании «перцептрона» — машины, созданной по образцу человеческого мозга и основанной на упрощенной модели биологического нейрона. В 1958 году профессор из Корнелла Фрэнк Розенблатт действительно построил такую машину, и некоторое время нейронные сети были горячей темой в этой области.
Но в 1969 году была опубликована сокрушительная критика двух ученых из Массачусетского технологического института, Марвина Мински и Сеймура Пейперта… и внезапно нейронные сети стали вчерашней историей.
Только вот один упорный исследователь — Хинтон — был убежден, что в них кроется ключ к машинному обучению. Как пишет технологический репортер New York Times Кейд Метц, «Хинтон оставался одним из немногих, кто верил, что однажды нейронные сети выполнят свое обещание, создав машины, которые смогут не только распознавать объекты, но и идентифицировать произнесенные слова, понимать естественный язык, вести беседу и, возможно, даже решать проблемы, которые люди не могли решить самостоятельно».
В 1986 году он и двое его коллег из Университета Торонто опубликовали эпохальную работу, в которой показали, что им удалось решить проблему создания нейронной сети, способной постоянно совершенствоваться, используя математическую технику под названием «обратное распространение». Хинтон назвал этот подход «глубоким обучением» — броская фраза, за которую могли ухватиться журналисты. (В ответ они назвали его «крестным отцом искусственного интеллекта», что даже по меркам бульварной прессы звучит грубовато).
В 2012 году Google заплатил 44 миллиона долларов за компанию, которую он создал вместе со своими коллегами, и Хинтон перешел на работу в технологический гигант, возглавив и вдохновив группу исследователей, которые проделали большую часть последующей новаторской работы по машинному обучению в своей внутренней группе Google Brain.
Во время своей работы в Google Хинтон довольно спокойно относился (по крайней мере, публично) к опасности того, что технология может привести нас в антиутопическое будущее. «До недавнего времени, — сказал он, — я считал, что до экзистенциального кризиса еще далеко. Поэтому у меня нет никаких сожалений о том, что я сделал».
Но теперь, когда он снова стал свободным человеком, он явно больше беспокоится. В интервью на прошлой неделе он начал объяснять, почему. В основе его беспокойства лежит тот факт, что новые машины гораздо лучше — и быстрее — обучаются, чем люди. «Обратное распространение может быть гораздо лучшим алгоритмом обучения, чем то, что мы имеем. Это страшно… У нас есть цифровые компьютеры, которые могут быстрее обучаться большим вещам, и они могут мгновенно обучать этому друг друга. Это как если бы люди в комнате могли мгновенно перенести в мою голову то, что есть в их голове».
Но что еще более интересно, так это намек на то, что его действительно беспокоит тот факт, что эта мощная технология полностью находится в руках нескольких огромных корпораций.
До прошлого года, сказал Хинтон журналисту «Таймс» Метцу, который написал о нем статью «Google вел себя как надлежащий управляющий технологией, старался не выпускать то, что может причинить вред».
Но теперь, когда Microsoft дополнила свою поисковую систему Bing чатботом, что бросает вызов основному бизнесу Google, Google спешит внедрить такую же технологию». Технологические гиганты вступают в соревнование, которое, возможно, будет невозможно остановить».
Он прав. Мы движемся по неизведанной территории.
Ну, не совсем неизведанную. Когда я в понедельник прочитал о шаге Хинтона, мне сразу же вспомнилась история, рассказанная Ричардом Родсом в его монументальном труде «Создание атомной бомбы». 12 сентября 1933 года великий венгерский физик-теоретик Лео Сцилард ждал, чтобы перейти дорогу на перекрестке возле Британского музея. Он только что прочитал отчет о речи, произнесенной накануне Эрнестом Резерфордом, в которой великий физик сказал, что любой, кто «ищет источник силы в превращении атома, говорит самогон».
Сциларду вдруг пришла в голову идея ядерной цепной реакции, и он понял, что Резерфорд был неправ.
Когда он переходил улицу, время разверзлось перед ним, и он увидел путь в будущее, смерть в мир и все наше горе, форму грядущих событий».
Ричард Родс
Сцилард был соавтором (вместе с Альбертом Эйнштейном) письма президенту Рузвельту (о риске того, что Гитлер может создать атомную бомбу), которое привело к Манхэттенскому проекту и всему, что за ним последовало.
Автор: Джон Нотон — обозреватель газеты Observer и председатель консультативного совета Центра Миндероо по технологиям и демократии при Кембриджском университете.
