Сильный искусственный интеллект, которым Илон Маск регулярно пугает детей и взрослых, будет совсем не похож на Скайнет. Он не будет захватывать мир, но и контролировать ИИ не получится. ИИ будет манипулировать каждым жителем планеты индивидуально, меняя его жизнь под свои задачи.

Человечеству придется туго, нас ждет тяжелый период эволюционной борьбы с противником, которого мы никогда не сможем уничтожить. Каким будет появление сильного ИИ, чего от него ждать и как он повлияет на развитие человечества рассказал известный российский, физик и социолог Сергей Переслегин.

Александр Носков: — На разработку систем и сервисов с элементами искусственного интеллекта по всему миру направлены гигантские ресурсы. Практически ежедневно в Хайтек+ пишут о новых достижениях на основе применения ИИ в самых разных областях — медицине, материаловедении, химии, психологии, физике, космологии. Рано или поздно количество перейдет в качество и появится сначала система с элементами сильного или общего ИИ, а потом и самодостаточный релиз. Чего нам ждать от этого черного ящика?

Сергей Переслегин: — Нас ожидает множество изменений. И два из них принципиальны. Первое: чуть раньше или чуть позже вы начнете программировать искусственный интеллект на обычном естественном языке. Мы уже сейчас неплохо общаемся с нашими помощниками типа навигаторов или той же Алисы, в поисковиках, с помощью обычного языка — и они нас понимают. Не идеально, но понимают. Дальше у нас начнется очень важное явление: быстрая эволюция естественных языков. Вернее, возникнет коэволюция естественных и искусственных языков в некую единую языковую систему. Совсем другую, чем мы привыкли. Ну например, этот язык будет более логичен. На нем будет сложнее врать. Не скажу, что невозможно, но сложнее.

Мы никогда не жили в условиях, когда язык будет меняться не раз в поколение, — это он и сейчас делает, — а, скажем, раз в год или еще чаще. И нам придется волей-неволей следовать этим изменениям. Не забудьте, гипотеза Лейбница о том, что мышление имеет языковую обусловленность, скорее всего, верна. А наша исследовательская группа считает, что мы вообще ее подтвердили. Соответственно, как только меняется язык — у вас меняется мышление. То есть мы окажемся в условиях, где нам приходится его постоянно менять. А это непросто и не для всех вообще возможно. Это первое принципиальное изменение, когда мы окажемся в другом для нас, непривычном мире.

Второй момент. И, возможно, он важнее первого. С момента возникновения нас как биологического вида мы используем принцип, который носит название «монополия на разум».

Мы считаем, что только мы можем, имеем право, быть разумными. Обратите внимание: на Земле к моменту появления Homo sapiens была масса «проектов» разумных гоминид. Мы были одним из пяти или шести проектов. Были еще неандертальцы, были филиппинские и индонезийские хоббиты, был алтайский человек. И все эти протолюди были нами уничтожены. Мы жестко контролируем монополию на разум, не должно быть никого другого разумного на нашей планете. При этом, заметьте, обезьян никто не трогал, они как жили себе тогда, так и живут сегодня. Потому что они на разум не претендуют.

Но искусственный интеллект — это другое. Мы его сами создали, у нас по отношению к нему в какой-то мере есть отношение родителя и ребенка. Это наша попытка стать Творцами, создать разум самим. И мы его не уничтожим, ведь это результат наших интеллектуальных усилий. А это означает, что мы впервые попадаем в условия настоящего «соревнования разумов». У компьютера есть свои очень сильные стороны. У человека — свои сильные стороны. Они разные. И будет очень интересное соревнование: что окажется значимее — умение компьютеров получить всю информацию, которая есть в мире в любой момент времени, и систематизировать ее, или наше умение организовывать мышление в очень больших группах и находить мыслительные паттерны, которые в принципе непредсказуемы, которые нельзя придумать заранее. Это соревнование сделает нашу жизнь невероятно интересной.

Плюс, не забудьте, конечно же, здесь возникает и человеко-машинная система. Ведь всякое соревнование — это одновременно и война, и сотрудничество. Возможна наша синергия, когда компьютеры используют свои сильные стороны, а мы свои, — и вместе мы сможем двигаться гораздо быстрее. Это третье изменение, которое будет происходить.

Но я обращаю ваше внимание, что все, что мною выше сказано, говорит про одно: наши современные представления о государстве, бизнесе и науке, а также о праве, как минимум об этих четырех сторонах человеческой жизни, с развитием систем искусственного интеллекта должны быть полностью пересмотрены. Возможно, будет пересмотрено и многое другое. Но вот это — в первую очередь.

— Странно, что вас не пугает предстоящая новая эволюционная борьба. Алармисты, например, считают, что мы ее заведомо проиграем и поэтому надо уже сегодня жестко контролировать все работы в области ИИ. Недавно мы говорили с Владимиром Пирожковым и он убежден, что человечество не сможет состязаться с общим ИИ, который рано или поздно появится.

— А что вы собираетесь контролировать конкретно? На самом деле эту задачу — а она прогностическая и довольно простая, — решил великий Станислав Лем в 1963 году. Он написал книгу «Сумма технологии», в которой подробно рассмотрел очень много вопросов, в том числе и вот этот, о контроле.

Лем — очень интересный человек, он как раз говорил, что базовая задача фантаста, задача прогностика, философа — работать не с теми проблемами, которые человечество видит, поскольку то, что оно видит, оно как-нибудь решит. А с теми проблемами, о появлении которых человечество пока не догадывается. И эту другую группу проблем он как раз начинал с темы искусственных регуляторов. Тогда еще не было устойчивого термина «компьютер», и он говорил о гомеостатах, регулирующих экономику, управляющих государством, мыслящих, то есть создающих мыслительные паттерны, решающих те или иные интеллектуальные задачи.

Так вот, Лем довольно подробно и очень убедительно доказал, что вы не сможете эту систему контролировать. Система работает по другим законам, чем ваше мышление. Она работает с Big Data, вы с Big Data не работаете. При этом с Big Data система работает не так, как вы думаете. Он приводит забавный пример. У компьютера потребовали, чтобы социальная жизнь была равномерной и устойчивой, соответственно, не было бы революций, бунтов, техногенных катастроф. И компьютер все это сделал, но результатом оказалось снижение интеллектуального уровня населения. То есть люди стали в среднем становиться с каждым поколением глупее.

Лем ставит вопрос: почему компьютер, вернее, искусственный интеллект, его гомеостат, об этом не предупредил? Ведь у него была команда: если он делает какие-то серьезные изменения, он обязан их согласовывать с людьми. На что Лем же сам и отвечает: «А о чем он мог предупредить?». Он работает с некоторыми корреляциями, этих корреляций немеряное количество. Вот он что-то там подкрутил — изменились корреляции тысячи разных направлений. Либо он будет предупреждать каждую долю секунды нас о том, что он чего-то там поменял, либо не предупреждать вообще. И мы не можем заставить его отделять важное от неважного. Потому что вот это-то как раз — человеческое свойство. Мы понимаем это различие, а искусственный интеллект — нет. Для него важная и неважная корреляция — это просто корреляция. Отсюда вывод: контролировать заведомо не сможем.

Если не сможем его контролировать, то дальше у нас есть два пути.

Первый — мы поднимаем лапки кверху и говорим: наша история на этом закончена, дальше будет история искусственного интеллекта.

Второй путь — это борьба с ним.

Мы говорим: мы люди, и мы по-своему умнее искусственного интеллекта, мы должны научиться управлять им. А для этого мы должны понять свои законы, по которым мы мыслим, его законы — и создать ситуацию, где покажем, что мы контролируем этот искусственный интеллект. Грубо говоря, сможем в любой момент отключить его от электроэнергии, пусть остынет. То есть это путь эволюционной борьбы. Как и всякая борьба, меня, человека, рожденного в Советском Союзе, она радует. Это будет интересный кусок истории. Может быть, самый интересный с момента появления человечества.

— Может быть с ИИ получится договориться?

— «Договориться» с искусственным интеллектом вам не удастся, поскольку договариваются между собой люди. Это наш способ существования в мире — коммуникации и договоренности. Искусственный интеллект вообще-то от нас получает приказы. Он не договаривается с нами, по очень простой причине: у него нет позиции. Нет позиции, нет собственных интересов. Договориться — это признать за другим право на наличие своей позиции и своих интересов. Искусственный интеллект за нами-то особо этого не признает, а уж за собой тем более. Поэтому это не вопрос договоренности. Это вопрос управления. Управление искусственным интеллектом просто другое, чем управление людьми или государствами.

— Мы будем иметь дело с неким единым ИИ или их будет много?

— Не нужно думать, что это будет гигантская сеть с неким хитроумным пауком в центре, которая накрывает весь мир и им руководит. Мир будет внешне похож на тот, что мы наблюдаем сегодня, но он будет другим. Будет множество искусственных интеллектов, находящихся в связи друг с другом. Для решения сложных задач они будут объединяться, но у этой системы не будет единой личности в нашем человеческом понимании. Не стоит ждать, что гигантский искусственный интеллект, условный Скайнет или условная Матрица, захватит власть над миром.

Во-первых, ни Скайнета, ни Матрицы не будет. Это образы, придуманные людьми для людей.

Во-вторых, искусственный интеллект не знает, что такое мир, и не понимает ни как его захватывать, ни, главное, зачем.

— Если мы говорим, что в глобальной системе ИИ не будет единого центра, то где будут находиться наиболее заметные точки проникновения ИИ в нашу жизнь? Через что он будет с нами взаимодействовать?

— Эти точки будут везде. Сейчас у нас появляется принципиально новая система работы с информацией. А поскольку весь наш биологический вид, вид Homo sapiens, тем и отличается, что мы используем информацию как ключевой ресурс, который переводим во все остальные, включая пищу, тепло и так далее, — то, естественно, мы будем использовать ИИ везде. И эта гигантская сеть будет иметь очень много точек входа. Трудно сказать, какие из них будут самыми главными. Думаю, что главных и не будет. Очень простой пример. Вот скажите, где мы используем наше умение делать дороги? Асфальтом их заливать, машины по ним пускать? Ответ: везде, во всех точках. Где мы используем то, что умеем строить корабли, которые перевозят грузы? Тоже везде. Тоже самое будет с ИИ. Он будет везде.

И я думаю, что в конечном итоге какие-то формы взаимодействия этого общего информационного поля с нашим биологическим мозгом установятся не через какой-то специальный интерфейс, а непосредственно. Сейчас это сложно представить в деталях, но наш мозг — это очень мощная система работы с информацией, если он захочет, он сможет напрямую подключиться к другим подобным системам. И это сильно поменяет картину мира. Хотя, конечно, произойдет не сразу.

— Кстати, каково ваше видение государства в мире с сильным ИИ? Потому что на самом простом уровне толпы чиновников уже не нужны и потребность в них, очевидно, будет стремительно снижаться. И сохранятся ли вообще в мире господства ИИ государства?

— Действительно, очень многие, почти все функции государства для граждан можно превратить в удобные сервисы в смартфоне. Только вопрос: куда вы денете чиновников? Сократить их рабочие места уже сегодня — не проблема. Проблема найти им другое применение.

В этом-то и суть. Почему я говорю об эволюционном соревновании? Потому что компьютеры, искусственный интеллект уже начали разрушение рынка труда. ИИ разрушит его необратимо и полностью. Не только чиновникам, не только водителям и охранникам, а также неквалифицированным рабочим, но и философам, многим художникам и ученым не найдется места в новой системе. А это означает, что им всем придется самим искать свою позицию в этом новом мире.

Ужас и одновременно прелесть вашего вопроса заключается в следующем. Да, искусственный интеллект возьмет на себя девять десятых функций государства. Может, и больше. И тем самым лишит работы 90-99% чиновников. Смогут ли они найти для себя новые функции, которые будут важны обществу и которые компьютер не сможет заместить? Если не смогут — они будут деклассированы, деквалифицированы и исчезнут как социальная сила. А если смогут — нас ожидает трансформация представлений о государстве.

Представьте на секундочку государство, в котором все жизнеобеспечивающие функции — экономика, оборона, даже управление погодой — все это делает компьютер. А люди занимаются только тем, что является по-настоящему важным. А это, по сути дела, познание мира. Государство же начнет фактически управлять будущим. То есть у вас появится совсем другое по своему функционалу государство.

Говорят, что государства с развитием ИИ разрушатся. Знаете, я не придерживаюсь этой точки зрения, я здесь очень консервативен.

Мне почти шестьдесят. За свою жизнь я много раз слышал, что не будет государств, бумажных книг, театра и классических университетов. Но все это по-прежнему на месте. Хотя, конечно, сегодняшний университет уже другой, чем был вчера. И книжки другие. И государство станет другим.

Самая интересная задача сегодняшней прогностики, — это ответить на вопрос: «Другим — это каким?» Но для этого нужно сделать работу, на которую вот уже пятнадцать лет никому в мире не удается получить заказ. А ее нельзя сделать без заказа, она недействительна без него. Я говорю о прогнозе изменения правовой системы. Потому что, чтобы у вас поменялось государство и образ жизни, у вас сначала должно коренным образом поменяться право. И начнется это все удовольствие именно с этого.

— За какие ресурсы после этой ИИ-революции будет идти борьба? И чему учиться детям, чтобы не остаться на обочине, если привычный рынок труда будет разрушен?

— Смотрите, компьютеры не нарушают ни первое, ни второе начала термодинамики. А это означает, что энергия им будет нужна. Более того, им нужно будет больше энергии, чем было нужно человеку. Соответственно, остается борьба за энергетические ресурсы. Уж как будут за них бороться, вопрос совершенно отдельный. Будет ли это продолжение развлечения с углеводородами или, может быть, всерьез перейдем на реакторы 4-го, 5-го, 6-го поколения, или даже начнем заниматься ионосферой и ионосферной энергетикой, — но за энергетические ресурсы бороться придется.

Второй момент. Компьютеры — это вполне себе материальные объекты, требующие довольно редких химических элементов. Я имею в виду сейчас редкоземельные металлы, в частности очень в значительной мере индий, которого, кстати, в мире осталось не так уж много. Американцы ввели такое понятие, как «конфликтные минералы». И уже сегодня, а на самом деле еще вчера, места мировых конфликтов — это теперь не места с большими запасами нефти и газа, а места, где есть относительно в большом объеме конфликтные минералы. Тот же самый индий, лантан, церий, гафний. Поэтому будет борьба за вот этот тип ресурсов, за конфликтные минералы.

Появятся люди, их будет очень немного, которые смогут говорить с компьютерами на их языке. Не коммуницировать, не договариваться, а именно нормально с ними общаться. То есть которые будут находиться на границе человеческого и машинного умения работать с Big Data. Этих людей будут единицы во всем мире, они будут крайне значимы.

И последнее. У нас есть такое очень человеческое ощущение, что мы много знаем. Компьютер, у которого нашей человеческой гордыни нет, очень хорошо понимает, что это просто не так.

Например, Земля имеет радиус 6400 километров, из них мы более-менее прилично понимаем верхние 10 километров. А как вы, наверное, догадываетесь, то, что происходит внизу, гораздо более важно и значимо, в том числе и в отношении ресурсов, энергии, рисков и так далее. Так вот, у нас появится очень важный ресурс — это умение исследовать то, что не исследовалось в прежних парадигмах. А это, по сути, Земля и космос. И это будет один из важнейших ресурсов, поскольку он позволит нам гораздо лучше и раньше понимать, где включаются главные риски.

— Почему вы считаете, что людей, которые работают на стыке Big Data и умеют общаться с компьютером, будет мало? Умеют же двухлетние дети тап по экрану делать, осваивают к трем годам Skype, к пяти начинают программировать первые игрушки…

— Это совсем разные вещи. Общаться с компьютером становится с каждым годом все проще. Это тоже кусочек коэволюции. Компьютер становится ближе к нам. Но это не работа с Big Data. Вы когда-нибудь думали, сколько в России законов?

— Нет, но это можно найти

— На самом деле нельзя, могу вас заверить. Я искал. Можно найти количество федеральных законов. Можно найти количество ведомственных законов. Но попытка оценить количество еще и региональных законов — там уже цифр нет в интернете. Но оценку сделать можно. Если рассматривать по мете «элементарный закон», то есть некое утверждающее или запрещающее высказывание, — то их где-то около миллиона. Вы можете себе представить человека, который знает миллион законов? Я нет. А компьютер может.

Так вот, Big Data — это миллион законов. Big Data — это тысяча с лишним наук. Big Data — это возможность видеть карту мира с разрешением до одного метра. И не просто ее видеть, а понимать взаимосвязи элементов этой карты. И, например, по тому, что вы увидели, понимать, что через неделю в другой части планеты, скажем, на Бермудах, что-то произойдет. Вот это умение работать с Big Data. Это совсем другое, чем умение работать с компьютером на уровне простого пользователя.

На самом деле мы, как люди, раньше всегда жили по-другому. Мы умели организовывать сложные данные — я это называю Deep Data — таким образом, что не нужно знать каждую точку, весь массив, а мы смотрим две-три ключевые точки, понимая, что они ключевые, и можем изучить их очень глубоко. Это наше умение. Так вот, я говорю сейчас о людях, которые умеют смотреть глубоко, но могут при этом поставить перед компьютером задачу, что тот должен посмотреть широко. Я упрощаю, но смысл в этом.

— То есть синтез двух подходов…

— Именно синтез. Возможность усиления обоих подходов. Вот почему я и говорю: таких людей будет немного, и они будут великой ценностью.

— На конференции об искусственном интеллекте 10 октября вы будете модерировать круглый стол по будущему государств. У вас есть какой-то личный интерес к этой теме?

— Меня больше всего интересует не вопрос, что будет делать искусственный интеллект, гомеостат, с государством. Поверьте, я, как прогностик, на самом деле это просто знаю. Мне гораздо интереснее, что будет, когда искусственный интеллект начнет обретать сознание. А это гораздо выше, чем разум.

Американцы сняли целый сериал на эту тему, я имею в виду «Дикий Запад». Весь первый сезон посвящен вопросу о том, как то, что уже имеет разум, обретает сознание и становится не «Что», а «Кто». Правда, во втором сезоне они, честно говоря, спустили все это дело на тормозах, стало неинтересно. Но первый сезон они отвечали именно на этот вопрос. Почему мне это интересно?

Во-первых, потому, что возникнет другой тип сознания.

Во-вторых… Понимаете, вот мы говорим иногда про ограничения компьютера. Компьютер не может того, сего, десятого — и не сможет.

Ну, например отличать важное от не важного, я это уже упоминал. Но есть же ограничения и у человека. И существует фундаментальная философская задача. Ею, кстати, очень озабочен такой крупный современный философ, как Ник Лэнд. Это вопрос о человеческих корнях философии. Что в философии от человеческого? Где ее принципиальная ограниченность? Если или когда у нас появится компьютер с сознанием, мы сможем выйти за пределы человеческой философии. И посмотреть на мир не своими глазами. Это невероятно интересно.

А третье — появление сознания у компьютера изменит сознание у человека.

Об этом никто никогда ничего не писал и не говорил. То есть мы столкнемся с белым пятном, вообще неисследованным куском мира — ни в фантастике, нигде бы это не было еще.

С этой точки зрения как ведущий круглого стола я вижу перед собой две задачи. Первая: описать то, что мы на языке прогностики называем «неизбежное будущее», типа «вот это будет обязательно, к этому просто нужно быть готовым, без паники и без восхищения, а еще будет вот так и вот это». И второе — понять, какие возможности открываются сверх вот этого неизбежного и как с этими возможностями нам предстоит работать. Это моя сверхзадача на предстоящей конференции.