Про искусственный интеллект ч.4

Часть 4. Заблуждения и страхи.

У каждого, кто боится этой фантастической чипизации, уже сейчас есть смартфон. Он работает на расстоянии нескольких километров, человек сам его питает электричеством и деньгами, очень нервничает, если смартфон разрядился, боится его где-то забыть. Этот смартфон знает про нас все, уже сейчас он нас подчиняет, следит за нами, жрет наше время, заставляет заниматься ерундой, зомбирует и управляет. Какие чипы еще нужны?

— Отдельная тема — заблуждения и страхи. В советские времена ходила такая полубайка о том, как Брежневу показали танк с элементами искусственного интеллекта, который на полигоне отлично воевал: прятался в складках местности, выявлял угрозы, наносил удары, не давал себя уничтожить. Брежнев спросил, где экипаж. Ему ответили, что экипажа нет, это умная машина, она сама все видит, обдумывает и воюет. Брежнев подумал и сказал: «Нет, такой танк нам не нужен». Ученые удивились, почему, ведь ни у кого в мире ничего подобного нет! А он ответил: «Ни вы, ни я, вообще никто не знает, как мыслит эта машина и куда заведут ее мозг эти размышления. Сейчас она воюет за нас, а потом в ходе боя возьмет и передумает, повернется и начнет воевать против нас». И проект свернули. Не берусь оценивать, правда это или нет, но, взяв этот пример за отправную точку, расскажите о заблуждениях и страхах связанных с ИИ.

— На мой взгляд, это лишний страх, который из голливудчины всякой идет, потому, что разработчики искусственного интеллекта, конечно, понимают, что находится там, в условной голове. На самом же деле там нет никакой «головы» у машины, но есть довольно детерминированные алгоритмы — единственно, что с триумфальным шествием нейронных сетей, сейчас и разработчики не очень могут понять, как именно внутри нейронной сети в реальной ситуации происходит выбор того или иного варианта, потому что нейронная сеть является «черным ящиком». Большинство алгоритмов ИИ представляют собой «чёрный ящик» по очень простой причине — там производится миллиарды операций, а проследить их логику пошагово разработчику попросту невозможно за разумное время. Существуют, конечно, какие-то методы для того, чтобы попытаться понять, как развивалось рассуждение нейронной сети, сделать ящик хоть немного серым, хоть чуть-чуть прозрачным, но в целом с этими алгоритмами сейчас обращаются действительно как с «черным ящиком». Подают задачу на вход, смотрят, что получилось на выходе, и подстраивают входные вводные либо сам алгоритм, подкручивают в нем ручки до тех пор, пока не получат нужного результата на выходе.

Никакого мышления там внутри, конечно, нет. Это просто некие сложные алгоритмы, у которых непредсказуемый результат может получаться просто в силу их высокой сложности. Но вы, когда в свою машину садитесь, порой тоже не знаете, почему она не заводится, просто потому, что сейчас техника — это в принципе очень сложная штука. Вообще, есть тенденция усложнения любого вида человеческой деятельности, эта сложность возрастает максимально в любой сфере.

Точно так же, например, разработчики поисковика «Яндекс» подчас не знают, почему он выдал именно такой результат поиска, а не какой-то другой. Происходит это потому, что при ранжировании результатов учитываются многие сотни первичных факторов и миллионы вторичных. Разработчики современного поисковика могут предполагать, каким будет результат, могут на это влиять, но объяснить, почему именно по вашему запросу выдались именно эти 10 верхних результатов поиска, или предсказать, что будет выдано, они, конечно, не могут. Это вполне нормальное явление для искусственного интеллекта. Никакого сознания там не зарождается, а уж тем более воли. Там могут быть непонятные эффекты и сбои, как и с любыми сложными техническими устройствами.

Ну и перехват управления беспилотным танком или истребителем боевыми хакерами со стороны противника тоже возможен. Это гораздо большая опасность, чем бунт машины.

— Вызывает вопросы и человекоподобная интеллектуальная  робототехника. Китайцы утверждают, что в ближайшие годы появятся технологии, позволяющие сделать на заказ робота — это будет полный аналог человека, в том числе с элементами ИИ, который станет идеальной женой, мужем, ребенком, домашним питомцем — собакой, кошкой — и так далее. Это действительно так?

— Я, честно говоря,  вообще не знаю выдающихся достижений китайцев в области искусственного интеллекта. Может, я отстал от жизни Поднебесной. Знаю, что китайцы вкладывают огромные деньги в ИИ, раз в 100–200 больше, чем у нас, и раза в 1,5 больше, чем США. Пишут много статей, подают огромное количество патентов. Рыскают по России, скупают коллективы разработчиков ИИ. Но вы слышали о каких-то китайских прорывах в ИИ? Я — нет. Может быть, эта их деятельность даст результаты, посмотрим. Ну да, камера телефона Huawei распознает лица, закат и траву. Но это, судя по всему, работают нейронные библиотеки Google, которые поисковая система выложила в open source.

Я знаю наши официальные структуры, которые в рамках технического сотрудничества поставляют российские космические технологии в Китай, сотрудники их говорят, что 80–90 процентов китайских достижений в освоении космоса — это просто адаптированные и развитые космические технологии СССР и России. Поэтому, я думаю, эти залихватские утверждения пока ни на чем не основаны. Просто обычное китайское стремление все изукрасить, сделать золотым и блестящим. Там же есть свои «ИИ-евангелисты», им ведь надо выбивать государственное финансирование ИИ, госпрограммы, гранты.

Человекоподобные роботы — пока маркетинговая лажа, потому что, как я уже сказал, даже просто поддержание текстового разговора с чат-ботом или виртуальным собеседником — еще не вполне решенная задача. Вы видите «говорящие колонки» — «Алису» или «Марусю» от Mail.ru — они работают в «железе», но, если вы с ними поговорите, вы увидите, что разговор поддерживать они не умеют. Команды наподобие обращения к поисковику или открытия карты они выполнить могут, голос распознается, но обработать смысл — конечно, нет. Какая там еще человекоподобная робот-жена, что вы…

— На днях британская газета The Telegraph опубликовала статью под названием «Зачем Илон Маск хочет вставить вам в мозг микрочип», в которой прошлась по пресловутой чипизации и превращению в будущем людей в киборгов. Маск 28 августа представил прототип своего интерфейса «мозг – компьютер», который однажды можно будет внедрить в голову, сделав из людей киборгов, пишет автор статьи. То есть эти технологии уже реальность?

— Ну в реальности Маск демонстрировал дрель, которая просверлила череп свиньи. И всё. Это же Маск.

А вообще, людей, которые бы хотели, чтобы их кто-то извне контролировал, чтобы им что-нибудь вживили, или тех, кто просто злоупотребляющих психоактивными веществами, много. Есть люди, которые идут в секты, в политические движения, потому что хотят внешнего управления. Их тоже много и будет еще больше, если им будут обещать какие-то сверхспособности или еще что-то. Есть просто сумасшедшие или те, кому хочется своих 15 минут славы, и за это они готовы вживить себе все что угодно.

Чипирование людей для внешнего управления — конечно, мракобесие, это должно быть запрещено. Басни, которые Маск рассказывает, разумеется, абсолютно человеконенавистнические и бредовые, даже если у него ничего не получится. Например, о том, чтобы вставить больному чип, чтобы с его помощью лечить депрессию. Это значит, что, вместо того, чтобы давать человеку «Прозак», на котором пол-Америки сидит, просто подкрутить ручечку потенциометра до тех пор, пока уголки губ у пациента не поднимутся кверху? Удобно же? И дешевле!

Этого ничего на самом деле нет, потому что, как управлять человеком даже через электроды, подведенные напрямую к мозгу, никто не знает. Человек — очень сложное и до конца не изученное существо. Например, бывают случаи, когда человеку на войне снесло полчерепа вместе с большей частью мозга, и в этом случае оставшаяся часть мозга берет на себя практически все функции утраченной части и вполне успешно функционирует, хотя по теории разделения функций по зонам мозга этого быть не должно. Мозг человека устроен очень странно и сложно, он тесно связан с телом, и всех этих тонкостей мы не знаем.

А про конкретную басню про чипизацию стоило бы спросить авторов теорий заговора — зачем она нужна? Начнем с того, что чипизация сопряжена с техническими трудностями, а именно: как питать этот чип внутри организма — непонятно, как избежать перегрева (фактически сваривания) тканей организма из-за его мощных сигналов — непонятно. При этом что он сможет делать, чтобы не убить своего носителя? Скорее всего, простейшую идентификацию на расстоянии нескольких метров — примерно в рамках возможностей товарных радиометок RFID.

У каждого, кто боится этой фантастической чипизации, уже сейчас есть смартфон. Он работает на расстоянии нескольких километров, человек сам его питает электричеством и деньгами, очень нервничает, если смартфон разрядился, боится его где-то забыть. Этот смартфон знает про нас все, уже сейчас он нас подчиняет, следит за нами, жрет наше время, заставляет заниматься ерундой, зомбирует и управляет. Какие чипы еще нужны? Чего бояться, когда вы сами и уже сейчас носите в своем кармане средство управления вами? Все уже сделано.

Часть 1

Источник материала
Настоящий материал самостоятельно опубликован в нашем сообществе пользователем Hmm4 на основании действующей редакции Пользовательского Соглашения. Если вы считаете, что такая публикация нарушает ваши авторские и/или смежные права, вам необходимо сообщить об этом администрации сайта на EMAIL abuse@newru.org с указанием адреса (URL) страницы, содержащей спорный материал. Нарушение будет в кратчайшие сроки устранено, виновные наказаны.

You may also like...

17 Комментарий
старые
новые
Встроенные Обратные Связи
Все комментарии
Чтобы добавить комментарий, надо залогиниться.