Когда-то мы со Стивом [Джобсом] мечтали создать устройство, которое сделает незрячих людей зрячими. Но теперь я спускаюсь в метро и вижу, что все сидят, уткнувшись в свои телефоны. И понимаю: кажется, мы сделали всех зрячих людей слепыми.

Все эти персональные помощники — Amazon Echo, Siri и так далее — это очень важно. Сижу я, значит, в своём номере, напеваю какую-то песенку. А гаджет-помощник просто начинает играть мне её, даже не прерываясь на фразу «Вот песня, которую вы искали». И я такой — ого!

[Они] превращают нашу личную информацию в деньги, а взамен ничего не дают. Я социальные сети вообще избегаю. У меня на Facebook 5 000 друзей, и я их не знаю. Почтой от Google или Yahoo я тоже не пользуюсь, только своей собственной.

Искусственный интеллект — это же всего лишь набор процессов, которые выстраиваются так, чтобы казаться интеллектом. Машине требуется проделать миллион процессов, чтобы в итоге выполнить довольно простую задачу. А у человеческого мозга есть навык, он может посмотреть на задачу как бы сверху и задаться главным вопросом «Что я должен сделать, чтобы эту задачу решить?» Кроме того, создавать человеческий мозг пока гораздо выгоднее: всего девять месяцев — и у вас уже новый.

Вопрос в том, что такое любовь. И в том, между кем возникает чувство: человек ли влюбляется в компьютер или компьютеры любят друг друга, потому что у них есть некое общее прошлое. Человек умеет делиться эмоциями: мы знаем, что такое счастье, наслаждение, грусть, мы можем эмоционально разделить с другим человеком воспоминания о приятном ветреном дне на пляже. А компьютер прожить собственно человеческую жизнь не сможет. У него будут проблемы уже с тем, чтобы понять, что такое «любовь по-человечески».

Менее чем через десять лет роботы, предназначенные для удовлетворения половых потребностей мужчин и женщин, станут столь совершенны, что люди перестанут заниматься сексом друг с другом. Об этом заявил футуролог Иэн Пирсон, уточнивший, что в первую очередь подобная смена предпочтений затронет прекрасную половину человечества.
Со временем, роботы для секса станут всё больше походить на людей, и спустя некоторое время проведённая с ним ночь будет восприниматься с не большим удивлением, чем просмотр порнографического фильма. Ещё позднее робот в качестве полового партнёра станет восприниматься как нечто обыденное, а с развитием их искусственного интеллекта некоторые женщины начнут и «влюбляться» в них. Сначала, по прогнозу футуролога, подобная тенденция вызовет активный протест у многих людей, однако в дальнейшем он будет стихать, и уже к середине текущего века связь (в том числе, и эмоциональная) у многих людей с их роботами будет настолько сильной, что отказ от секса с другими людьми станет нормой, пишет Mirror.

По самым скромным прогнозам, уже к 2025 году роботизированная техника оставит без работы каждого третьего. А еще через десятилетие — вообще всех. В Японии, например, уже не осталось сборщиков клубники — созданы робофермы, на полях пашут специально обученные машины.

Переводчики станут не нужны к 2024 году: тогда ИИ будет справляться с такими задачами лучше. К 2026 году он также будет уверенно писать простые эссе. Водители грузовых автомобилей станут не нужны к 2027 году, а к 2031-му та же участь ждет продавцов розничной торговли. В середине XXI столетия роботы будут уверенно выполнять хирургические операции. Примечательно, что ИИ сможет освоить даже творческие профессии. Если верить исследованию, почти всю художественную литературу к концу 40-х тоже будут писать специальные программы.

Прогнозируется, что к этому времени треть всех работ на земле будут выполнять роботизированные машины. К тому же футурологи прогнозируют, что все, что подключается к сети электропитания, станет когнитивным, то есть практически мыслящим, уже через 10 лет. А пройдет еще немного времени, и искусственный интеллект перестанет зависеть от подключения к сети. Недавно ученый, который придумал технологию распознавания различными гаджетами человеческой речи, заявил, что к 2029 году представит устройство, которое будет выполнять более миллиарда калькуляций в секунду. Этот суперинтеллект будет доступен каждому онлайн. Дома, машины, электроприборы — скоро все будет обладать тем или иным интеллектом.

Уже сегодня изобретены устройства и компьютерные системы, способные выполнять задания, для которых требуются мыслительные способности как у человека, такое же визуальное восприятие, умение распознавать речь, принимать решения в сложных ситуациях и даже переводить с языка на язык. «Искусственный интеллект задает нам вопрос: кто вы, какие у вас суперспособности?»
Сам он может достигать цели в разнообразных условиях, и главное — он способен к обучению и даже нацелен на него.
Если машине задать цель выиграть в шахматы у человека, она будет ее достигать.
Машина может приспосабливаться к заданным условиям.
Созданы механизмы, которые умеют совершенствовать программное обеспечение, выдвигать гипотезы, проводить исследования. И машины начнут самосовершенствоваться».
Недавний пример, когда система «Уотсон» компании IBM выиграла в американской версии программы «Кто хочет стать миллионером». Машина обладает познаниями в области истории, хорошо знает человеческий язык, умеет решать логические задачи. Например, она с легкостью ответила, что за русский композитор написал этюд для пианино (Рахманинов). Она сама генерирует гипотезы, проводит исследования, дает оценки. Думает ли «Уотсон» и другие системы искусственного интеллекта?.. Это никто не знает.

Сегодня есть достаточно продвинутые системы интеллектуального управления робототехникой. Они позволяют машинам — наземным, воздушным, морским — решать многие задачи без участия человека. Причем эти машины могут действовать как в одиночку, так и в составе группы. Они умеют обмениваться информацией, выбирать позиции, заменять роботов, вышедших из строя.

Ученый Элиезер Юдковский сказал: искусственный интеллект не может вас любить или ненавидеть, но вы состоите из атомов, которые он мог бы использовать для чего-то другого. Руководитель лаборатории когнитивных робототехнических систем университета Иннополиса профессор Николаос Мавридис признается, что недавно участвовал в дискуссии на тему, надо ли выдавать роботам лицензию на убийство...

Можно ли внедрить машине мораль? Вряд ли. Ведь в разных странах она разная. К тому же военным роботам, над созданием которых сегодня трудится 56 стран мира, мораль и вовсе ни к чему. Стивен Хокинг говорит, что пришла пора разработать план по контролю искусственного интеллекта — иначе он начнет действовать против его создателей.

Watson не просто знает все ответы (имея свободный доступ к интернету, это, наверное, не слишком сложно), он научился понимать вопросы: различать подтекст, метафору, языковую игру и т. д., и т. п.
Искусственный разум скоро превзойдет человеческий по всем возможным параметрам, и наша дальнейшая судьба, поверьте, незавидна. Впрочем, мы даже думать об этом с должной серьезностью не можем. Не можем по той же причине, по которой не способны представить себе инопланетян иначе как человечками с руками и ногами. Наше воображение все лепит по своему образу и подобию. Нам просто недостает фантазии, а точнее, ума.

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но все это — лишь культурные химеры, удобные фикции. Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток — химические реакции и электрические импульсы. Мы сами — программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.

Все это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет. Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта — игнорировать факты и совершать беспримерные глупости, о чем со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».

Уже существуют роботы-писатели. Да, они пишут превосходные заметки! О спортивных соревнованиях, о ситуации на финансовых рынках, недвижимости, да и просто весьма увлекательно излагают обычные городские новости (компания Automated Insight Робби Аллена). И зачастую читать эти тексты куда приятнее, чем аналогичные опусы, созданные профессиональными журналистами. Так что, если вы на 100% уверены, что данный текст об искусственном интеллекте написан человеком, а не самим искусственным интеллектом, помните: это может оказаться иллюзией.

Мы уже предоставили искусственному интеллекту всю информацию о нас. То есть не то, что мы о себе думаем или, например, как мы выглядим (это нужно лишь для того, чтобы нас идентифицировать), а именно всю, то есть все о нашем действительном поведении, способах принятия решений и наших желаниях.
Представьте, что машина начинает предугадывать наши желания — мы и сами-то со своими желаниями не способны разобраться, но она справится, ведь знает не только то, что мы думаем, но и то, как действуем. Само по себе это, наверное, и неплохо. Но кто сказал, что искусственный интеллект распорядится соответствующим знанием в наших интересах? Если он будет знать наши желания, он сможет и влиять на них, управлять ими, то есть нами.
Интернет-гиганты Google, Facebook (и поглощенный им Twitter), Apple, Instagram, «Яндекс» — все это своего рода виртуальные империи, в буквальном смысле колонизирующие народы и создающие свои квазигосударства.

Вопрос лишь в том, как этим империям управлять своими гражданами и какой бенефит из этого можно извлечь. Пока прежние политические системы деградируют, новые игроки политического рынка — интернет-гиганты — превращаются в протогосударственных монстров. Состояние рабства должно определяться следующим образом: тебе платят не за то, что ты делаешь, а за то, что ты просто есть (ну, а что тебе делать или не делать — уже не твоего ума дело). По этому принципу и развиваются эти новые империи — мы у них есть. Рабы и папуасы глобальной сети интернет, которые даже не догадываются, что их «уже посчитали».

Сейчас в штаб-квартирах новых мировых интернет-империй создается искусственный интеллект, который будет управлять нами изнутри системы. И его создатели сами еще не знают, как этой безумной и неограниченной властью распорядиться. Пока они рассуждают типичным для таких случаев образом: завоюем, поработим как следует, а потом уж решим, что со всем этим делать. А решать, действительно, придется: не ровен час, когда все завоеванное ими «богатство» (то есть мы с вами) превратится в самые настоящие черепки. Ведь если искусственный интеллект действительно достигнет того уровня развития, который сейчас кажется уже почти неизбежным, сами по себе люди будут экономике не нужны. Более того, превратятся в обузу.

Ну правда, раньше рабочая сила была реальным капиталом (© К. Маркс), а сейчас какая в ней нужда? Представьте себе недалекое будущее...
На первых этажах наших домов вместо нынешних магазинов располагаются большие 3D-принтеры, к ним по трубам (что-то вроде нынешнего водопровода) поступает универсальный концентрат двух видов — съедобный и несъедобный. Вам остается только нажать на кнопку, и нужные предметы тут же изготавливаются и оказываются в вашей квартире. Причем сам этот концентрат также производится на бесчеловечных — полностью автоматизированных — производствах.

Искусственного креатива тоже будет хоть отбавляй. Его, чтобы мы не скучали, нам будут скармливать нон-стоп. Искусственный интеллект уже сейчас научился сочинять музыку и писать литературные тексты, а завтра он будет работать в системе полного цикла, поставляя нашему вниманию неограниченное множество аудиовизуальных произведений, причем в системе 3D-реальности. Смотреть можно будет сутками напролет — не оторвешься! То есть кроме искусственного хлеба нас ждут и искусственные зрелища, причем в избытке.

Но зачем этой системе люди? При таком раскладе, люди становятся самыми настоящими «домашними животными».
Но домашних животных тоже заводят не просто так: или для того, чтобы их есть, или же (и таких куда меньше в процентном отношении), чтобы им умиляться. Но кто нам в такой ситуации будет умиляться и, главное, зачем? Искусственный интеллект и вправду должен оказаться тем еще извращенцем, чтобы его умиляло человечество.

21 июня 2017 года исследователи лаборатории искусственного интеллекта Facebook (FAIR) отключили роботов, которые начали общаться на собственном языке.

Разработчики экспериментировали с чатботами в социальных сетях, чтобы создать идеальных переговорщиков. Исследователи Facebook поручили ботам поменяться шляпами, шарами и книгами, каждому из этих активов была присвоена определённая цена. В процессе переговоров боты, их звали Элис и Боб, придумали собственный язык. Они вели диалог на английском, но смысл ускользал от наблюдателей.

Хотя роботам удалось заключить несколько сделок, разработчики отказались от наблюдения за ними и отключили их. Целью эксперимента было создание искусственного интеллекта, который смог бы коммуницировать с людьми и продавать те или иные вещи, но язык, который роботы сконструировали на основе английского, для этого совершенно не подходил.

Боты начали придумывать свой язык, потому что так им проще общаться. Программа не подразумевала вознаграждения за использование понятного английского, так что боты просто выбрали лёгкий путь.
Кстати, чуть раньше другой бот Facebook научился блефовать и обманывать — делать вид, что какой-то предмет ему совершенно не нужен, и приобретать его за бесценок. Робот тренировался продавать книги, кепки и мячи и изучил 5800 реальных человеческих переговоров, собранных при помощи краудсорсинговой онлайн-платформы Amazon Mechanical Turk.
Анализируя диалоги, бот научился импровизировать и придумывал новые фразы и предложения.

Facebook подчёркивает, что причин для беспокойства нет. Был проведён научный эксперимент, он закончен, и его результаты не вызывают тревоги. Компания продолжит работу над совершенствованием ботов, которые в будущем смогут заменить кол-центры и службы поддержки больших компаний.