Близка ли война с машинами: как будет развиваться искуственный интеллект

Те времена, когда искусственный интеллект (ИИ) был чем-то ужасным из научно-фантастических фильмов, канули в лету. От калькулятора в телефоне и до беспилотного автомобиля — это все разные его воплощения в современном мире. Мы нашли способ обучать компьютеры для того, чтобы упростить себе работу.

На самом деле, мы каждый день пользуемся им, не осознавая этого. Джон МакКарти, который ввел термин "искусственный интеллект" в 1956-м, пожаловался, что с того момента, как ИИ реально заработал, обычно никто его так не называет (нейросети — это тоже проявление ИИ). Из-за этого название воспринимается как некая мифическая структура, которой все еще не существует, и которая вознинет только в далеком будущем.

Несмотря на это, мы все еще, открыто или подсознательно, боимся искусственного интеллекта. Почему? Мы привыкли ассоциировать его с фильмами, где он обычно выступает в качестве антагониста и чего-то, что пытается уничтожить людей. Многие, когда слышат об искусственном интеллеекте, представляют себе что-то вроде войны людей и роботов в "Матрице". Или зловещего "Скайнета" из "Терминатора".

Но это не совсем так. Пока что ИИ — это много-много процессоров. И они вовсе не вредят самовольно человеку, а находятся на его службе.

Какие бывают искусственные "мозги"

Ученые даже придумали классификацию искусственного интеллекта. Всего, его можно условно разделить на три вида:

• Узконаправленный ИИ (УИИ), он же слабый. Специализируется в одной области. Например, может победить мирового чемпиона по шахматам. Но это единственное, что он может. Если попросить его подобрать лучший способ хранения данных на жестком диске — заставите его фигурально "хлопать глазами". Его люди уже покорили и подчинили своим нуждам.
• Общий ИИ (ОИИ). Иногда еще называемый сильным, или уровня человека. Характеризует такой компьютер, который может производить операции в различных сферах, собственно, этим похож на человека. Его создание требует больших усилий, чем УИИ, потому что он должен уметь обосновывать, планировать, решать проблемы, абстрактно мыслить, осознавать сложные идейные понятия, быстро учиться и учиться на собственном опыте с той же легкостью, как делаем это мы с вами.
• Искусственный суперинтеллект (ИСИ). Философ из Оксфорда Ник Бостром характеризует его как интеллект, который умнее любого человека практически в любой отрасли, включительно с научной и творческой деятельностью, общей мудростью и социальными навыками. Ранжировать его можно от системы, которая слегка умнее человека, до такой, которая в триллионы раз опережает любое человеческое существо по всем фронтам.

Сценарий революции

Не стоит думать, что искусственный интеллект просто придет и захватит мир, сразу, без объявления войны. Вообще-то, узконаправленный ИИ уже давно используется во всех сферах нашей жизни. Он столь же умен, как человек, или превышает наши способности, но только в какой-то узкой сфере.

Автомобили просто напичканы подобными устройствами, ведь в современных авто компьютер решает, подавать ли топливо в систему если вы, скажем, забыли снять ручник. Не говоря уже о беспилотном авто Google, которое может реагировать на происходящее вокруг него и анализировать обстановку, и сможет обнаружить пешехода на переходе до того, как человек его заметит.

Телефоны – маленькие фабрики искусственного интеллекта. Например, навигация по городу с учетом пробок, рекомендательные сервисы музыки и кино, которые построены на наших вкусах.

Google Translate существенно улучшил качество перевода благодаря использованию УИИ. Распознавание голоса — это уже другая задача, требующая другой системы. Но если их совместить, мы получим возможность синхронного машинного перевода, когда вы говорите предложение на одном языке, а ваш собеседник получает его мгновенный перевод.

Спам-фильтры в почте, рекомендации товаров на Amazon, или друзей на Facebook. Все это — обширная сеть ИИ, которая взаимно информирует друг друга о том, кто вы, чем интересуетесь, и анализируя полученную информацию, составляет ваше личное предложение.

Выбор гейта в аэропорту для вашего самолета, стоимость авиабилета, поисковые системы, способные обрабатывать множество разных запросов и формировать нужную выдачу, системы, помогающие врачам ставить диагнозы, и даже Watson компании IBM, который не единожды победил коллег Анатолия Вассермана в Jeopardy, аналоге "Своей игры", — все это тоже узконаправленный ИИ.

И да, в шахматы и скрэббл лучше всего играет тоже искусственный интеллект. Смиритесь с этим.

Эти системы безобидны. Самое худшее, что может произойти — плохо запрограммированный УИИ может спровоцировать локальную изолированную катастрофу, скажем, случайно отключив электроснабжение, или обрушив финансовый рынок. Подобное уже происходило, когда в 2010-м искусственный интеллект некорректно среагировал на неожиданную ситуацию и спровоцировал вывод триллиона долларов с рынка). Пока же ИИ не способны угрожать нашему существованию, мы незаметно желтыми кирпичами выкладываем дорогу к более совершенным его видам, пока рано или поздно не проснется нечто.

От частного к общему

Ничто не может заставить так сильно уважать силу человеческого интеллекта, как попытки ученых воссоздать его в искусственном виде. Строить небоскребы или космические корабли на поверку оказывается проще, чем воссоздать или даже понять собственный мозг. Пока это самый сложный объект в известной вселенной.

Самой сложной частью оказалось создать интеллект столь умный, как человек, в целом, а не в какой-то определенной области. Создать компьютер, который будет умножать числа с двадцатью нулями или отличать кошек от собак проще простого, а вот заставить понимать содержание книжки с картинками для шестилеток — нет. Google тратит миллиарды на то, чтобы научить компьютер делать это.

И то, что нам кажется просто элементарным и не требующим многих ресурсов, на самом деле миллионы лет оттачивалось в нас и наших эволюционных предках. Мы не задумываемся о том, как функционирует наш организм, когда мы подымаем руку — в нашем мозгу есть идеальный софт, который выполняет эту операцию. И все "капчи" на сайтах работают именно по тому же принципу — наш мозг может осознать странное переплетение бессмысленных букв, а для ИИ такие манипуляции — пока недосягаемая величина.

Все, что умеет уже узконаправленный интеллект, ново для человечества, ведь вряд ли наши предки постоянно играли в шахматы или го и умножали триллионы на триллиарды.

Однако во многих сферах, требующих описательных действий, человек с легкостью обойдет компьютер из-за того, что тысячелетиями распознавал выражения лица, оттенки, структуры, отличия между двухмерным и трехмерным пространством. И то, что для машины будет всего лишь набором черно-бело-серых тонов, для человека сложится в картинку трехмерного метеорита. И да, вряд ли компьютер сможет отличить, почему "Храброе сердце" прекрасно, а вот "Патриот" — хуже некуда.

Нарастить мощности

У ученых есть план, как все же уравнять машину и человека. Первое — увеличить мощности. Как минимум, для того, чтобы достичь человеческих способностей, нужен больший вычислительный потенциал. Один из способов его выражения — общее количество вычислений в секунду (cps). Рей Курцвейл, главный футуролог Google, опытным путем пришел к cps для человека — 10 в 16 степени, то есть 10 квадриллионов вычислений в секунду.

В данный момент самый быстрый в мире китайский суперкомпьютер Tianhe-2 побил эту цифру, его рекорд — 34 квадриллиона. Но это огромная махина, занимающая 720 квадратных метров (почти 10 футбольных полей), которая потребляет 24 мегаватта электроэнергии, что сравнимо с небольшим городом, тогда как наш мозг — всего 20 ватт, и стоит это китайское сокровище 390 миллионов долларов. Не так, чтобы для широкого, даже и для коммерческого применения.

Для определения скорости приближения к образованию более совершенного искусственного интеллекта предлагается другая величина. Чем больше cps можно купить за $1000, тем ближе человечество к моменту перехода к общему ИИ. И если отталкиваться от закона Мура, который говорит, что каждый год вычислительные мощности в мире удваиваются, то сейчас все компьютеры мира находятся на уровне мышиного мозга. Звучит не слишком впечатляюще, пока мы не вспомним, что в 1985-м это была триллионная доля человеческого уровня, миллиардная в 1995-и и миллионная в 2005-м.

С такими темпами, нужный уровень будет достигнут к 2025 году.

Сделать умнее

Вторая часть плана — сделать ИИ умнее. Откровенно говоря, никто точно не знает, как этого достичь. Пока есть несколько предположений. Например, скопировать, проще говоря — сделать плагиат мозгов. Фактически, нынешний суперкомпьютер — это прототип нашего мозга, только очень давнего. Ученые активно работают над изучением развития нашего мозга, чтобы понять, как он эволюционировал до нынешнего состояния. По оптимистическим оценкам, исследование закончат к 2030 году, и это может вдохновить инженеров. Пример такой синергии — нейросети, которые учатся на собственном опыте, с каждым новым заданием выстраивая новые связи и оптимизируя самих себя. Наш мозг учится подобным образом.

Есть еще один, не менее интересный подход, который заключается в том, чтобы эмулировать разум – отсканировать мозг, нарезанный тонкими слоями, слой за слоем, создать реальную его трехмерную модель и внедрить его в компьютер. Получится компьютер с мощностями мозга, который сможет собирать информацию и учиться.

Если инженеры в этом преуспеют, то мозг, который умрет, как некий Джим, проснется этим же Джимом. То есть станет реальным перенос личности в компьютер.

Пока ученым удалось лишь эмулировать мозги плоского червя, всего в миллиметр длиной, состоящий из 302 нейронов. У человека их — 100 миллиардов. Пока выглядит не слишком реалистично, но все может измениться.

Но пока не получается скопировать мозг, можно попытаться скопировать его эволюцию методом "генетических алгоритмов". Так проходил отбор живых существ – они жили и либо размножались, передавая лучшие гены, либо нет. В компьютерной эволюции может участвовать группа компьютеров, которые будут выполнять подобные операции, лучшие образцы их программного кода можно смешивать и выводить в новые системы, достигнув уровня, когда это процесс будет происходить сам по себе. Но этот процесс у человека занял миллионы лет, мы же хотим результат за парочку десятилетий.

Впрочем, у эволюции тоже есть свои особенности. Первое – совершенно бесполезные ответвления. Второе — у нее не было определенной цели, например, создать сверхинтеллект (а иногда и вовсе отбирались особи, им не блещущие). Третье — для его развития ей нужны были модификации, скажем, способы использования энергии в организме. Поэтому пока до конца не ясно, стоит ли избирать эволюционную стратегию за основу.

Третий выход — это не наша проблема, а компьютера, пусть сам решает. Как ни странно, самый обнадеживающий метод. Задумка — построить компьютер, который будет заниматься исследованиями ИИ и сам же будет вносить изменения в код, улучшая собственную архитектуру и делая себя все более разумным. Исходя из этих предпосылок и роста мощностей по экспоненте новая ступень ИИ может появиться весьма внезапно.

Сверхинтеллект

Допустим, в какой-то момент появится общий искусственный интеллект. Люди и машины будут жить дружно и в равноправии. Или нет.

Компьютеры уже превосходят людей. Максимальная частота человеческого нейрона всего 200 Гц, а компьютеры превысили показатель в 2 ГГц — они в 10 миллионов быстрее. Сигналы в мозгу могут перемещаться со скоростью 120 м/с, тогда как в машине — со скоростью света. И тогда как мозг навеки заключен в черепную коробку, компьютеры могут разрастаться до любых величин, а транзисторы в платах не проблема восстановить, в отличии от нервных клеток, работая 24/7 без отдыха. Помимо "железячной" части, компьютеры могут всю жизнь улучшаться посредством обновлений и патчей, оставляя широкое поле для экспериментов. И даже то, в чем люди превзошли все другие виды — создание коллективного разума — для компьютеров вряд ли будет проблемой.

И если ИИ сможет развиваться сам, достижение им точки человеческой разумности он не воспримет как некую веху, она кажется таковой лишь нам. Ведь у него не будет причин останавливаться на достигнутом. Мы думаем, что он будет развиваться еще долго, и даже когда он достигнет нашего уровня (по Нику Бострому, уровня "сельского тупицы"), нам будет все еще смешно. Только между "сельским тупицей" и Эйнштейном, по его меркам, всего ничего.

Страшно? Как только система достигнет человеческого уровня, ей понадобится не слишком много времени, чтобы достигнуть уровня разумности всего человечества. По реалистичному прогнозу, это может случиться уже в 2045 году, по пессимистичному — в 2075-м. После этого произойдет Взрыв интеллекта, и он довольно быстрыми темпами достигнет уровня ИСИ, который мы не сможем измерить — если в нашем понимании IQ "сельского тупицы" 80, умника — 130, то значение в 12952 мы не в силах осознать. Возрасти этот потенциал может как за несколько лет, так и за, скажем, 90 минут.

Сверхкомпьютер как божество

Представим, что в итоге мы получаем "добрый" ИИ, и сценарии "Матрицы" и "Терминатора" откладываются. В итоге это будет нечто из "Автостопом по Галактике", которое сможет функционировать в трех моделях:

1. "Оракул", который может ответить практически на любой вопрос, заданный человечеством;
2. "Гений", который может выполнить любую сверхсложную команду;
3. "Государь", который может управлять процессами по всему миру и свободно принимать решения самостоятельно, например, как людям лучше передвигаться.

А о плохом сценарии лучше вовсе и не думать.