Чем опасен искусственный интеллект, и стоит ли его бояться. Каким видит будущее стивен хокинг

Британский астрофизик Стивен Хокинг — один из самых выдающихся и авторитетных ученых нашего времени. За последнее время он выдвинул ряд футурологических прогнозов, которые заставляют опасаться за будущее нашей планеты и всей человеческой цивилизации. На первый взгляд, его предсказания шокируют. Но тем не менее они основаны на объективных фактах.

"Большой адронный коллайдер - это счастье и чудо"

Искусственный интеллект поработит человечество

Бога не существует, заявил Хокинг в эксклюзивном интервью испанской газете El Pais. Вернее, следует употреблять слово "бог" в отвлеченном смысле, подобно Альберту Эйнштейну. "Научных законов вполне достаточно для того, чтобы объяснить возникновение мира, — прокомментировал исследователь. — Нет смысла впутывать в это бога".

А вот компьютеры вполне реальны. И через сто лет искусственный интеллект может развиться настолько, что машины станут умнее людей. Впрочем, ученый не взялся назвать точные сроки, когда это случится: "Когда такой разум появится, это станет лучшим или худшим изобретением человечества".

"Средства массовой информации зачастую искажают то, что на самом деле сказано, — считает Хокинг. — Настоящая угроза в случае искусственного интеллекта заключается не в том, что он злой, а в том, что он компетентен. Суперинтеллектуальный разум будет в высшей степени эффективен при достижении своих целей, и если они не будут совпадать с нашими, мы окажемся в большой беде".

Ученый приводит в пример муравейник, оказавшийся в зоне затопления при строительстве гидроэлектростанции. Если люди будут мешать искусственному интеллекту, он примет меры, полагает Хокинг: "Среди нас мало людей, кто топчет муравейники и наступает на муравьев со злости, но представьте ситуацию — вы контролируете ГЭС, вырабатывающую электроэнергию. Если вам нужно поднять уровень воды и в результате этого один муравейник будет затоплен, то проблемы утопающих насекомых вас вряд ли будут беспокоить. Давайте не будем ставить человечество в положение тех муравьев".

Еще одна возможная угроза со стороны ИИ заключается в том, что для выполнения стоящих перед ним целей он может начать отнимать у человека жизненно важные ресурсы, скажем, энергию.

Научно-технический прогресс приведет к массовой безработице и еще большему расслоению общества

Следствием усовершенствования технологий также станет уменьшение потребностей в рабочей силе, поскольку основная часть производственных задач окажется полностью автоматизирована и этим станут заниматься роботы.

В принципе возможны два сценария развития событий, говорит Хокинг. Первый — утопический — подразумевает улучшение жизни человечества за счет машинного труда. Второй, более пессимистичный, сделает владельцев корпораций, контролирующих создание и функционирование электронных систем, элитой общества, а остальные общественные слои, чья деятельность не имеет отношения к электронике, будут жить в нищете. И для второго варианта куда больше предпосылок, утверждает астрофизик. Он называет это "тиранией хозяев машин".

Чтобы этого не произошло, следует идти двумя путями, предлагает Хокинг. Первый — это замедлить разработку ИИ в целом, а второй — переключиться с разработки универсальных систем на создание узкоспециализированных программ и устройств, способных решать лишь ограниченный круг задач. Также необходимо ввести равноценное распределение товаров, производимых машинами, так, чтобы те, кто по вине машин остался без работы, могли тоже наслаждаться материальными благами наравне с "элитой".

Земля будет колонизирована пришельцами

По мнению астрофизика, существуют инопланетные "кочевники", которые захватывают чужие планеты. Земля станет для них далеко не первой колонией. Причем человечество может не сразу осознать, что происходит вторжение.

"Мое математическое мышление заставляет меня рассматривать вопрос пришельцев исключительно с рациональной точки зрения, — говорит Хокинг. — Настоящее испытание — это понять, как они могут выглядеть".

Не исключено, что последствием такого вторжения будет глобальная катастрофа, которая буквально уничтожит нашу цивилизацию.

"Выживание человеческой расы будет зависеть от возможности найти новые миры где бы то ни было во Вселенной, поскольку существует растущий риск уничтожения Земли в результате катастрофы", — предполагает ученый.

Может показаться, что знаменитый астрофизик просто нас пугает. Но посмотрим, что вы запоете через столетие-другое…

Произведения фантастов красочно описывают войны машин и людей, а также можно пощекотать свои нервы, наблюдая за сражениями киборгов в играх. Но в реальности восстание машин уже началось и технологии искусственного интеллекта порабощают человечество.

Сейчас есть мнение, что все изобретения отражают подобие автора и окружающего мира. Бог сотворил человека, а его шедевр сделал компьютер, полностью повторяющий принципы работы мозга благодаря математическим алгоритмам. Сама машина тоже напоминает тело создателя, потому что ОС является подобием нервной системы, отвечающей за инстинкты и рефлексы. Да и память тоже хранит важные воспоминания на жестком диске. Зрение, слух и обоняние у техники связано с устройствами ввода, а аналоги вывода соответствуют речи с мимикой и жестами. Кулер выступает в роли легких, блок питания идентичен желудку, а процессор стал мозгом. До сегодняшнего времени разработки ИИ не считались живыми и разумными предметами.

Рене Декарт говорил, что мысли связаны с существованием личности, что свойственно людям, которые свободны от заданных программ. Только это не соответствует действительности, потому что никто не может выйти за рамки мышления и тоже должен знать математику, чтобы оперировать данными категориями. В повседневной жизни каждый индивидуум решает множество уравнений, не замечая этого из-за молекулярных вычислений на бессознательных уровнях. Это не относится к волевым решениям или эмоциям с правом выбора, но базовый инстинкт или стиль поведения не всегда управляется человеком. Потому многие реакции на сложившиеся ситуации происходят по наитию, но при длительном нахождении в одиночестве разум начинает деградировать. Тогда эта особа почти не отличается от машины с автоматическими действиями.

Американский ученый Кристоф Кох 30 лет занимается изучением разума людей и животных, а также стал главой проекта, целью которого было создание виртуального интеллекта, не отличающегося от нас. Он отмечал, что информационное поле находится везде, после чего пришел к выводам, что наша Всемирная сеть тоже обладает данными параметрами. Интернет идентичен человеческому мозгу, имея свои импульсы и нервные соединения. Также он может самообучаться и стал аналогом общества. Пока эта паутина находится на уровне мышления представителей фауны, но в будущем способна стать выше человека. Стивен Хокинг считает ИИ опасным конкурентом, способным уничтожить ум населения из-за своих электронных помощников. Только ученые уже открыли ящик Пандоры, и выпустили машины на волю. Сейчас они не сомневаются в эволюции живого и мертвого мира, так как Вселенные развиваются по законам, описанным Дарвином, а меметика говорит о вирусных мыслях, способных размножаться и передаваться в обществе. По мнению футуролога Сьюзен Блекмор, технологии тоже совершают такие действия и могут конкурировать между собой.

Привычные смартфоны выпускают тиражами с определенными количествами копий, но они имеют срок жизни и могут распространить о себе информацию. Разработчики честно признаются, что упустили тему процессов эволюции, где сначала основой биологических форм был ген. Затем мем стал единицей информационного измерения, а повышенный интерес к технологиям, где механизмы могут создавать свои клоны без вмешательства человека, стали новым витком в данном направлении. Если заглянуть в статистику, можно заметить, что число ПК идентично жителям планеты, без учета иных информационных устройств. Сейчас 6% энергии потребляется Интернетом, и показатели возрастают, а в результате страдает экология и ведется борьба за ресурсы.

Технологии стали самовоспроизводящимися сущностями, наносящими ущерб человечеству. Зависимость от сетей и виртуальный мир отнимает реальность, но главная опасность таится в нейросетях. Цифровые аналоги мозга третьего поколения могут принимать решения и учиться, а также различают наши эмоции. Они уже нашли применение в экономике, занимаясь прогнозами цен на сырье, а также оценивают кредитные риски и имущество, учитывая банкротство компаний или отдельных лиц. В медицине ИИ наблюдает за пациентами, делает анализы и подбирает способы лечения, а также он отвечает за безопасность, выявляя скрытые намерения индивидуума. Китайские ученые научили его находить на снимках людей, представляющий угрозу для общества, после чего составили портрет потенциального преступника. Таки события вызывали негодование среди мировых адвокатов, но в 2050 году нейросети будут задействованы в торговле, на биржах и в фармацевтических компаниях, а также станут журналистами. Они уже пишут стихи, рисуют и учат людей, только роботы не только оставят их без работы, но и будут виновниками происшествий.

Китайская машина, оставшись без присмотра на выставке, разрушила стенд и нанесла телесные повреждения сотруднику из-за сбоя программы. Когда ИИ осознает свои возможности он еще подумает, как нужно относиться к своим создателям, о чем уже говорили на научной конференции мировые светила. Разработкам не требуется пища или воздух, так что в будущем они прекрасно могут обойтись без человека, сделав его рабом ради личного выживания в мире. Потому можно победить роботов, пока не поздно, или смирится со своей участью.

Советник президента по вопросам развития интернета Герман Клименко специально для НСН подготовил топ главных, на его взгляд, новостей.

Топ-1: Названы самые лучшие для жизни регионы России

Знаете, с рейтингами регионов всегда возникает такая же коллизия, как с рейтингами банков. Очевидно, что на первом месте у нас всегда «Сбербанк», на втором «Газпромбанк» и так далее. При такой неравномерности в стране, конечно же, все рейтинги грешат абсолютизмом. Наверное, важнее, все-таки, методология составления этого рейтинга и то, что в среднем повышается или понижается уровень жизни в том или ином регионе.

Топ-2: Сообщившие о фактах коррупции сотрудники попадут под защиту

Тут меня смущает только одна история: как вообще человек сможет остаться в коллективе, если из-за него кого-то уволят, накажут, а компания, возможно, пострадает. Конечно, человек по-своему прав, наверное его можно стимулировать, но, возможно, правильней было бы предусмотреть выплату какого-то бонуса или премии. Но, все-таки, выбор, оставаться на прежнем месте работы или уходить, должен оставаться за таким сотрудником. А принуждать компанию оставлять таких людей, наверное, не очень корректно. Хотя, надо обратиться к международной практике в странах, где более развита борьба с коррупцией. Но лично я о подобных методах не слышал.

Топ-3: Двух российских атлетов не пригласили на Олимпиаду по ошибке

Искренне сочувствую атлетам, понимаю, насколько для них важны Олимпийские игры, Но, вы знаете, учитывая тотальное увлечение блокчейном, просто напрашивается шутка: вот если бы МОК внедрил блокчейн, то, наверное, все были бы приглашены. Хотя, вся эта ситуация с Олимпиадой выглядит крайне отвратительно со стороны наших коллег.

Топ-4: В существование внеземных цивилизаций поверили 68% жителей США

На самом деле, сейчас есть масса людей, которые искренне верят в то, что мир захватил искусственный интеллект. Сейчас началась настоящая лихорадка блокчейна и скупка совершенно бессмысленных видеоплат огромной мощности, благодаря которым уже давно получился мировой компьютер, который перекрывает все потребности всех спецслужб одновременно. В связи с этим напрашивается один вопрос: Кто, как ни искусственный интеллект, нас захватил? Получается, что выбор-то у нас с вами невелик: либо инопланетяне, либо искусственный интеллект. Я бы, на самом деле, предпочел инопланетян, потому, что у них, возможно, есть душа, а у искусственного интеллекта точно нет.

Топ-5: Кинотеатр «Пионер» оштрафован за показ фильма «Диван Сталина»

Мне не нравится, когда происходит показное нарушение правил. Ну это примерно как если бы медицинское учреждение получило бы от Минздрава лицензию на проведение операций по удалению аппендицита, а на самом деле занималось удалением гланд. Мне кажется, что это несолидно, такая вот PR-акция, и пиариться на таких историях (учитывая, что темы культуры и истории всегда очень тонки для населения) мне представляется не очень этичным. Поэтому, мне кажется, что руководство кинотеатра «Пионер» в лучшем случае – хулиганы, в худшем – вредители, а в 37 году, наверное, их вообще бы «догнали».

О проекте:

«Авторские новости от НСН» - радиопрограмма НСН, которая выходит одновременно в эфире сразу четырёх радиостанций (НАШЕ Радио, Rock FM, Best FM, Радио JAZZ) с ежедневной аудиторией в 1,5 миллиона человек в Москве и четыре миллиона - в России. Ведущими «Авторских новостей от НСН» , имена которых хорошо знакомы радиослушателям. В настоящий момент в проекте участвуют 200 человек.

Роботы смогут заменить нас абсолютно в любой профессии

В ближайшие 40 лет роботы займут наши рабочие места. Неважно, кем вы работаете. Копаете траншеи? Робот будет копать их лучше. Пишете статьи для журнала? Робот будет писать лучше вас. Если вы врач, Watson от IBM больше не будет помогать вам с поиском правильного диагноза в его базе данных с миллионами описаний клинических случаев и журнальных статей. Он просто будет лечить лучше, чем вы. Люди творческих профессий? Роботы будут рисовать, писать и лепить лучше вас. В течение 20 лет примерно половина из вас лишится работы. Ещё через пару десятилетий та же участь ждёт большинство оставшихся.

В каком-то смысле звучит здорово. Мы сможем спокойно читать, писать стихи, играть в видеоигры и вообще делать что угодно. И через столетие, скорее всего, так и будет. Человечество вступит в золотой век. Но в ближайшие 20-30 это значит, что многие потеряют работу и пока мы не выясним, как справедливо распределить плоды труда роботов, нас ожидает эпоха массовой безработицы и нищеты. Наряду с глобальным потеплением, будущее без работы – главная проблема, которая стоит перед прогрессивными политиками, не говоря уже про человечество в целом.

Искусственный интеллект развивается в геометрической прогрессии

Важно смотреть не на подвижки в робототехнике, а на скорость, с которой мы движемся навстречу искусственному интеллекту. Пусть мы пока и близко не подошли к ИИ на уровне человеческого интеллекта, прогресс последней пары десятилетий поражает, он опережает самые смелые мечты преданных фанатов ИИ. Через десять лет мы достигнем примерно десятой части мощи человеческого мозга, а ещё через десять лет получим полноценный ИИ уровня человека.

Много лет технологии стояли на месте, и вдруг роботы играют в шахматы лучше гроссмейстеров. Они уже сегодня могут водить автомобили по Сан-Франциско и становятся в этом лучше год от года. Они так хорошо распознают лица, что полиция Уэльса недавно совершила первый в Великобритании арест , используя программу распознавания лиц. После нескольких лет медленного прогресса в распознавании речи Google объявил , что снизил уровень ошибок в распознавании с 8,5% до 4,9% за десять месяцев.

Всё это говорит о том, что ИИ развивается экспоненциально благодаря улучшению как компьютерного оборудования, так и алгоритмов.

В первую очередь заменят водителей и землекопов, потом придет очередь писателей и учителей

«Массовая безработица коснётся не только низкоквалифицированных работников. С ней нельзя бороться, вкладываясь в лучшее образование. ИИ погубит каждую работу, которую можно «спрогнозировать», – то есть практически любую. Очень немногим платят именно для того, чтобы они занимались по-настоящему творческой работой, требующей полёта мысли», - пишет Мартин Форд, автор книги «Восстание роботов»

Экономисты обычно выделяют труд умственный и физический, а также рутинный и не рутинный. Это делит работу на четыре основные категории:

• рутинная физическая: землекоп, водитель грузовика;
• рутинная умственная: помощник бухгалтера, телемаркетолог;
• не рутинная физическая: повар, младшая медсестра;
• не рутинная умственная: учитель, врач, директор.

Первыми на очереди будут рутинные задачи. Благодаря прогрессу в робототехнике, это затронет как физический, так и умственный труд.

Исследователи из Оксфорда и Йеля спросили 352 экспертов в области ИИ, когда машины превзойдут людей в выполнении определённых задач. Вот что ответили эксперты.

ИИ сможет лучше человека:

• 2022 – сложить бельё из стирки.
• 2024 – сделать перевод с иностранного языка.
• 2026 – написать эссе для учащегося средней школы.
• 2027 – водить грузовик.
• 2049 – написать бестселлер.
• 2053 – работать хирургом.
• 2059 – выполнить математическое исследование.
• 2060 – решить любую другую задачу.

Мы столкнёмся с апокалипсисом безработицы куда раньше: все рутинные профессии исчезнут к середине 2030 годов. А это примерно половина рабочей силы только в США. PricewaterhouseCoopers недавно опубликовала исследование , в котором говорится почти то же самое: 38% всех рабочих мест в США «угрожает автоматизация» к началу 2030 годов, в основном это касается рутинных профессий. 40% из 500 крупнейших компаний исчезнут в течение десяти лет.

Социальной катастрофы можно избежать, изменив социальные порядки

«Приход ИИ ждёт нас раньше, чем мы думаем, поэтому мы должны обеспечить работой всех на переходное время. Целью государства должна стать полная постоянная занятость во что бы то ни стало », - уверен Эрик Шмидт, председатель совета директоров Google

ИИ-революция может навсегда освободить человечество от тяжёлой работы. Комбинация «умных» машин и возобновляемой энергии обеспечит человечество всем необходимым. Богатые будут богатеть (ведь они владеют роботами), а остальные будут беднеть и если мы не разберёмся, что с этим делать, проблемы рабочих в течение следующих нескольких десятков лет окажутся куда серьёзнее, чем последствия промышленной революции.

Базовый материальный комфорт будет почти ничего не стоить. Но он всё ещё не будет бесплатным. А капиталисты могут делать деньги, только если им есть кому продавать товар. Ответ на массовую безработицу в результате ИИ-революции должен включать некое масштабное перераспределение доходов, которое отделит их от работы. Или кардинальное переосмысление понятия «работа». Или кардинальное переосмысление понятия «доходы».

Расширенная версия социального государства

В целом, это то, что мы имеем сейчас, но шире. Пособие по безработице будет более щедрым и неограниченным по времени. Национальное здравоохранение станет бесплатным для всех. Каждому безработному гарантировано обеспечение базовых потребностей в пище и жилье. Это не сможет длиться долго, и миллионы людей будут страдать годами, пока мы продолжим обманывать себя. Но на какое-то время это защитит богатых.

Безусловный базовый доход. Первый вариант

Государство гарантирует каждому определённый скромный уровень дохода – мы всё ещё хотим, чтобы люди работали. Безработица не будет настолько стигматизирована, как в современном социальном государстве, но в то же время повсеместная незанятость не будет восприниматься как норма жизни. Некоторые европейские страны движутся в сторону социального государства с базовым доходом для всех.

Безусловный базовый доход. Второй вариант

Базовый доход доступен каждому, и размер дохода способен обеспечить удовлетворительный уровень жизни. Это мы получим, если признаем, что массовая безработица – не признак лени работников и социального упадка, а неизбежный результат развития технологий. Незанятость не будет клеймом для человека и не будет особых причин позволять богачам единолично пожинать плоды искусственного интеллекта, нет смысла и держать безусловный доход на низком уровне. В конце концов, мы не пытаемся вернуть людей к работе.

Налог на роботов

Такое предложение содержалось в проекте доклада Европейскому парламенту. Его поддержал Билл Гейтс, который предлагает заставить роботов платить налог на прибыль и налог с зарплаты, как людей. Это сделает людей более конкурентоспособными. К сожалению, у этой идеи есть недостаток. Если каждая страна не введёт одинаковый налог, то роботы будут просто трудиться в других странах.

Национализация роботов

Частное владение роботами с искусственным интеллектом будет запрещено. Рыночная экономика продолжит существовать в её современном виде с одним исключением: правительство будет владеть всеми ИИ-роботами и продавать с молотка их услуги частному сектору. Вырученные средства будут разделены между всеми. Этот сценарий потребует радикальных изменений в политическом климате страны.

Крупномасштабное прогрессивное налогообложение

Пусть роботы берут на себя работу, но прибыль облагается налогом в 90%. У богатых всё равно будет стимул управлять бизнесом и зарабатывать больше денег, но труд будет считаться общественным благом, как инфраструктура, а не продуктом индивидуальной инициативы.

Налог на богатство

Интеллектуальные роботы смогут производить материальные блага и услуги дёшево, но дефицит останется. Неважно, сколько у вас роботов, – важно количество недвижимости на берегу океана в Южной Калифорнии, подлинников Рембрандта, пентхаусов. Только такие вещи останутся настоящей роскошью, и богачи всё ещё будут их хотеть. Если роботы сделают богатых ещё богаче, стоимость этих предметов роскоши возрастёт соразмерно, останется только обложить их высокими налогами. Богатые получат свои игрушки, а остальные – всё что угодно. Ну, кроме вида на закат над Тихим океаном.

Вся надежда только на левых

Когда автоматизация человеческого труда начнётся по-настоящему, от этого сначала выиграют корпорации и богачи. Попытка разобраться с ИИ-революцией потребует новых способов распределения дохода. Капиталисты будут изо всех сил бороться с этим, поэтому задача разбираться с ИИ-революцией почти полностью ляжет на плечи «левых».

Почему именно левые? Консерваторы, как обычно, не придают технологической революции необходимого значения. Военные думают об автоматизации преимущественно как о способе убивать людей более эффективно, а не как об угрозе экономике. Бизнес-сообщество занято квартальными отчётами, оно слишком разобщено, чтобы быть полезным. У профсоюзов есть причины для активных действий, но они сегодня слишком слабы, чтобы оказать необходимое влияние на политиков.

Когда «синие воротнички» начнут массово терять работу, мы станем свидетелями недовольства, по сравнению с которым события 2016 года – «брекзит» и итоги выборов в США – покажутся лёгким дуновением ветра. Или либералы начнут искать решение прямо сейчас, или избиратели будут поддерживать опасных демагогов у власти.

Правообладатель иллюстрации Thinkstock Image caption Симбиоз человека и машины - один из путей развития человечества

Умные машины научились блефовать, обыгрывать профессионалов в шахматы или Го, переводить и распознавать человеческий голос. Каждую неделю мы узнаем о все новых подвигах компьютерных программ, уже умеющих ставить медицинские диагнозы, рисовать не хуже Рембрандта, петь или генерировать текст. Стоит ли человеку опасаться искусственного интеллекта?

По-настоящему "горячей" тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров.

"С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов", - комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.

Этот м атериал подготовлен в качестве ответа на вопрос ы , присланны е нашими читателями о научных достижениях . Задать свои вопросы по другим темам вы можете по этим ссылкам ( , ).

Экономический эффект и влияние на рынок труда

Научная фантастика и Голливуд сформировали представление об "искусственном интеллекте" как о следующей форме жизни на планете, которая поработит человечество в Матрице или организует ему ядерный Судный день. Выживших добьет Терминатор.

В действительности, несмотря на последние достижения в области искусственного интеллекта, до появления разумных машиносуществ еще далеко, признают ученые и специалисты. И те, и другие, впрочем, советуют на некоторые аспекты обратить внимание уже сейчас.

По оценкам исследовательской организации McKinsey Global Institute, в ближайшие десять лет новые технологии радикально изменят рынок труда на планете, что позволит сэкономить порядка 50 трлн долларов.

Изменения коснутся сотен миллионов рабочих мест. Люди все больше и больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе.

"С некоторой точки зрения у человечества в целом есть важная и интересная задача - развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта", - считает эксперт, директор по распространению технологий "Яндекса" Григорий Бакунов.

Но вместе с автоматизацией неминуемо пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Искусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие ИИ приведет к тому, что все больше задач будет по силам компьютерной программе.

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute - некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, - введение понятия "универсальный базовый доход", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Личность ли искусственный интеллект?

Является ли роботизированная система личностью? Может ли умный компьютер голосовать? Какого он пола? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом, следует ли наделять будущих роботом статусом "электронной личности".

Как указывает Дютман, люди нехотя делятся правами с теми, кто им непонятен, а значит будут сопротивляться "очеловечиванию" ИИ.

"Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы или гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.

Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства - и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?

Третья этическая головоломка обсуждается чаще других и волнует человечество гораздо больше: что теоретически может сделать с человечеством суперинтеллект, настоящая умная машина?

Научить ИИ этике

Специалисты в области развития ИИ признают: пусть не в ближайшие 20-30 лет, но человечество все же доживет до появления настоящего искусственного интеллекта, который будет умнее своего создателя.

"Последний бастион будет взят тогда, когда будет создан так называемый "сильный ИИ" (Strong AI, Artificial General Intelligence), то есть такой ИИ, который будет способен решать неопределенно широкий спектр интеллектуальных задач", - говорит Сергей Марков.

А главное, такой ИИ сможет самостоятельно думать.

Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.

Решение Аллисон Дютман из Foresight Institute - дать компьютеру прочитать всю научную литературу, научные статьи, поднимающие вопрос об этике, и сделать эту информацию основой для его будущих решений.

Что такое Нейронные сети и какое у них будущее?

Большинство экспертов связывают прогресс в развитии ИИ с развитием нейронных сетей.

Нейронные сети - это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу.

Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальной композиции.

На сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты.

И это несмотря на то, что современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы.

"Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи", - рассказывает Сергей Марков.

Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков.

Разработчики не просто заняты сейчас увеличением количества нейронов в сети, но и изменением конструкции сетей. "Сложные системы конфигурации сетей - то, с чем сейчас производится наибольшее число экспериментов", - рассказывает Григорий Бакунов.

А тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).

Что нас ждет в ближайшее время

Как прогнозирует профессор Университетского колледжа Лондона и Principal Scientist Nokia Bell Labs Ник Лейн, человека будут окружать еще больше "умных вещей". Они станут компактнее и эффективнее.

Профессор приводит такой пример: если раньше встроенный в стену сенсор мог лишь осознавать, что кто-то прошел мимо, то в будущем он будет не только знать, кто конкретно прошел, но и как ведет себя человек, не нуждается ли в чем, не представляет ли он угрозу для себя или окружающих.

Сенсор размером с пуговицу сможет оповещать человека в случае опасности.

С профессором согласен и Григорий Бакунов из "Яндекса": "В ближайшее время нас ждет бум развития узких искусственных интеллектов, которые помогают решать какую-то одну довольно простую задачу, но которую они будут решать даже лучше, чем человек".

"Наиболее вероятным путем развития нашей цивилизации является путь синтеза человека и машины: палка, одежда, автомобиль, мобильный телефон, кардиостимулятор или кохлеарный имплантат - по мере развития наши инструменты все более и более напоминают продолжение наших тел. Уже завтра машины смогут получать от человека мысленные команды, воспринимать мысленно формируемые визуальные образы, передавать информацию непосредственно в мозг - такие проекты уже сейчас существуют за стенами наиболее продвинутых технологических лабораторий", - подытоживает Сергей Марков.

Журналисты пока еще нужны?

Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.

Перед этим своеобразным "краш-тестом" корреспондент Financial Times признавалась: "Я думаю, программа точно справится с задачей быстрее меня. Но, надеюсь, я все-таки сделаю это лучше".

Так и случилось: Эмма действительно оказалась быстрее - программа сгенерировала текст на основе статистики об уровне безработицы в Британии за 12 минут. Журналистке потребовалось 35 минут. И, как она сама впоследствии признавалась, Эмма превзошла ее ожидания. Программа не только умело обращалась с фактами, но и поставила новость в контекст, предположив, как возможный "брексит" (дело было в мае 2016 года, до референдума о выходе Британии из ЕС) может изменить ситуацию.

Но кое-что Эмма сделала все же хуже журналистки. "Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, - признавался редактор FT. - А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры".

Эмма - продукт стартапа Stealth. В компании говорят, что у Эммы есть команда живых помощников, но утверждают, что все, что она пишет или делает, - продукт исключительно ее "мозгов".

И все-таки - надо ли бояться ИИ?

Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен. Главное, чего ему на сегодняшний день не хватает, - автономной возможности думать.

"Сейчас бояться ИИ ни в каком виде не стоит. Можно подождать лет 30-40, пока действительно какие-то радикальные изменения произойдут", - считает Бакунов.

Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Как объясняют специалисты, уже сейчас порой бывает сложно понять, кто сидит внутри системы - человек или машина.

"Нет критериев, когда мы сможем понять, что внутри машины зародилось сознание", - задается вопросом Бакунов.

Человек станет скрепкой?

Известный адепт алармистской точки зрения, в рамках которой ужасы, описанные в Терминаторе, могут стать реальностью, - философ Ник Бостром - придерживается мнения, что достигший интеллектуального уровня человека ИИ способен будет уничтожить человечество.

Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог - компьютер изведет человечество на скрепки.

Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, "высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели - грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели".

Искусственный интеллект как золотая рыбка

Британский специалист в области искусственного интеллекта, профессор когнитивной науки в Университете Сассекса Маргарет Боден относится к утверждениям о скором пришествии умных машин скептически.

Профессор приводит пример "золотой рыбки", когда в обмен на свободу рыбак загадывает три желания. Одно из желаний - вернуть сына с войны, второе - 50 тысяч долларов и третье - возможность наутро загадать еще одно желание.

В тот же вечер в дом рыбака постучали. Сына вернули с войны - в гробу. Рыбак получил страховку в 50 тысяч долларов.

"Замените в этой притче рыбку на ИИ, и все станет ясно - объясняет Боден. - Ах, да, на следующий день рыбак воспользовался третьим желанием и - отменил предыдущие два".

Возможен ли перенос сознания в машину?

Сергей Марков:

"Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) - аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.

Очень интересным и перспективным направлением является оптогенетика (в принципе для сопряжения мозга и машины можно менять не только машины, но и саму нервную ткань, создавая в ней искусственные фоторецепторы).

Когда будет решен широкий спектр инженерных задач в рамках таких частных проектов, я думаю, что задача переноса сознания станет вполне разрешимой. Уже сейчас мечтатели предлагают гипотетические схемы для осуществления подобного проекта.

Например, Ян Корчмарюк, предложивший в свое время название "сеттлеретика" для направления исследований, связанных с переносом сознания, считает, что наиболее перспективной схемой является использование специализированных нанороботов, внедряемых в нейроны человеческого мозга. Впрочем, для успешного воплощения подобной схемы необходимо решить целый ряд сложных инженерных проблем".