17 июня 2019
19.04.2019, 18:17:43 

Газета «Известия» // Игры без разума: что нам даст и чего лишит искусственный интеллект

Стратегия его развития убережет человечество от вмешательства роботов в личную жизнь и добавит ответственности разработчикам, пишут «Известия».

В России разрабатывается стратегия развития искусственного интеллекта (ИИ), отдельно должны появиться и юридические нормы, регулирующие эту сферу. В Европе уже задумались о моральной стороне и написали основы этики для ИИ. Выйдет ли он из- под контроля, получат ли роботы лицензию на убийство, когда мы начнем перемещаться на летающих машинах, какие профессии исчезнут навсегда и почему самая совершенная программа никогда не заменит поэтов, композиторов и художников? На эти и другие вопросы ответили эксперты «Известий».

Разум на кончиках пальцев

«Известия»: На прошлой неделе Еврокомиссия разработала основы этических законов для искусственного интеллекта (ИИ). Один из главных принципов – контроль со стороны человека. Насколько необходим такой «моральный кодекс»?

Игорь Ашманов, президент IT-компании «Крибрум», эксперт по ИИ: Рекомендации Еврокомиссии, по-моему, абсолютно беспомощны. Это в основном благие пожелания, за всё хорошее против всего плохого. Они говорят о конфиденциальности управления данными – но есть законы о персональных данных, которые и так все это регулируют.

А пункт «Разнообразие, отсутствие дискриминации и справедливость» – дань толерантности, продвижению маргинальных агрессивных меньшинств, не имеющая никакого отношения к ответственности искусственного интеллекта. По причине diversity в кино всех белых заменяют черными и азиатами.

Следующий пункт – «Техническая надежность и безопасность». Это тоже просто пустое пожелание: и так всем понятно, что компьютерные программы должны быть по возможности безопасными.

«Человеческое соучастие и надзор. Искусственный интеллект не должен покушаться на автономию человечества, манипулировать людьми или принуждать к чему-либо» – лишь благое пожелание, которое непонятно, как реализовать. ИИ, управляющий лифтом, манипулирует людьми и понуждает их заходить в лифт и выходить из него.

Артем Кирьянов, юрист, член Общественной палаты РФ: У Еврокомиссии очень большие бюджеты на содержание сотрудников, которых нужно постоянно занимать. Вот они и заняты. К счастью, документы Еврокомиссии не имеют к нам никакого отношения. Очень надеюсь, что в России не возникнет творческого зуда написать что-нибудь подобное, поскольку у нас бюрократия не так сильно развита и снабжается ресурсами не так, как в Брюсселе.

Не надо регулировать прогресс. Юриспруденция обслуживает ключевые нормы, сложившиеся в обществе в данный момент.

«Известия»: Но ведь искусственный интеллект способен к самообучению. Можно ли вообще взять его под контроль?

Артем Кирьянов: Тема искусственного интеллекта и восстания машин была раскрыта уже лет 40 назад Станиславом Лемом в книге «Сумма технологии». Наверное, мы смотрим много интересных научно-фантастических фильмов, не имеющих связи с реальностью и нам кажется, что искусственный интеллект – некая штука, которая может принимать решения за людей, влиять на них, формировать социальные отношения и в какой-то момент выйти из-под контроля. Но по крайней мере в ближайшие лет 300 это невозможно. Никакая машина не способна заменить человека просто из-за различной природы бытия.

Игорь Ашманов: Искусственный интеллект для тех, кто его разрабатывает, – это даже не наука, а довольно развитая, традиционная инженерная дисциплина, набор математических и инженерных методов оптимизации и машинного обучения, которые позволяют имитировать когнитивные функции человека. Это вид программирования. Мы говорим не о сверхъестественном разуме, который возник в результате неизвестно чего внутри компьютера (как в голливудских выдумках сценаристов), а о реальной ситуации, которая сейчас находится на кончиках пальцев разработчиков и программистов.

Стоит также сказать, что ИИ – это не обязательно самообучение, что модно в последние годы. Нас давно окружает облако бытового искусственного интеллекта, и мы даже не думаем о том, что он есть. Это, например, Т9 у вас в телефоне, круиз-контроль в машине или система лифтов в здании – компьютер принимает решение, на какой этаж послать лифт.

Всем привычная поисковая система – это одна из самых сложных программ искусственного интеллекта. Как и проверка правописания. 30 лет назад проверять правописание могли только очень культурные высокообразованные люди, а сейчас с этим справляется любой смартфон. В большинстве работающих вокруг нас программ ИИ нет никакого самообучения и саморазвития. Но часть из них действительно самообучающиеся.

Что это такое – обучение ИИ? Если вам надо автоматически распознавать котиков на фотографии, вам следует сначала взять условный миллион фотографий котиков, выделить их на фото вручную, а потом эту выборку загрузить в программу машинного обучения. Это может быть, например, нейронная сеть или другой алгоритм. И программа научится выделять котиков на новых фотографиях. Этот процесс не до конца детерминированный, но с изображениями сейчас, похоже, вопрос решен. Речь распознается чуть хуже, особенно быстрая, зашумленная, но и с ней, похоже, постепенно справляются. Обучая искусственный интеллект что-то распознавать, мы добиваемся того, что он начинает это делать лучше, чем человек. Но никакого «саморазвития» или «осознания себя» там в принципе нет.

«Известия»: Искусственный интеллект довольно сильно вмешивается в нашу жизнь: программа Т9 навязывает слова, «Алиса» лезет в наш навигатор. Должны ли быть какие-то юридические рамки?

Игорь Ашманов: Должны, но непонятно, что здесь могло бы стать предметом регулирования. Это очень серьезный раздел права, который пока еще не сложился.

Юристы занимаются сейчас более насущными и конкретными вопросами в сфере искусственного интеллекта. Например, надо определить, кто отвечает за поведение беспилотного автомобиля. Поэтому их все еще нет на дороге, хотя беспилотный транспорт технически уже может ездить. Не решено, что за страховка должна быть оформлена, кто отвечает за сбитого пешехода. Эти вопросы будут решаться по-разному в разных странах: где-то будет отвечать страховая компания, где-то владелец устройства, а где-то разработчик.

Уже в этом году были два случая, когда «Боинги» упали из-за ошибки в программировании, система безопасности приняла неверное решение из-за сбоя датчика. По сути, это искусственный интеллект убил людей. В «Боингах» работают очень сложные программы, принимающие решения в реальном времени, это типичный ИИ. Кто-то за это ответил? Я пока ничего об этом не слышал.

Серый ящик

«Известия»: Можно ли развитие сферы ИИ пустить на самотек?

Игорь Ашманов: Многие страны – Китай, США, Европейский союз – уже создали национальные стратегии развития искусственного интеллекта. Американцы написали в своей стратегии: «Мы должны доминировать в этом пространстве». Китайцы указали, что у них должны быть самые крутые технологии, а ЕС – «У нас будет ответственный искусственный интеллект в экологической сфере». Вот примерно вся их стратегия.

В России стратегия пока разрабатывается. Есть программа «Цифровая экономика», где указано немало законов, которые надо написать и принять, в том числе закон об общедоступных данных, закон о больших данных. Закон о личных данных нужно переделывать. По мере появления конкретных жизненных проблем с искусственным интеллектом их придется регулировать.

По беспилотникам, например, будет сделан отдельный закон. Уже есть жесткий закон по дронам – летающим беспилотникам. Аппарат нужно регистрировать, и все ругаются по этому поводу. Но если бы вы летели на вертолете, а вам навстречу близко пролетел бы дрон с суммарной скоростью 300 км/ч, вы бы не жаловались на этот закон. Я это наблюдал вживую, это сильное ощущение избавления от смерти чудом. Чтобы не потерять эту технологию, нужно создавать регионы или полигоны, где такие вещи будут испытываться без смертельного риска, там должна быть так называемая законодательная песочница.

Артем Кирьянов: Помимо законодательной базы, касающейся конкретных продуктов, например больших данных, все остальное будет отраслевым регулированием. Надо вникать, какие задачи будут в правовом регулировании по дронам, если столкнулись несколько федеральных органов. Если мы всё кодифицируем заново, возможно, будет кодекс, посвященный ИИ.

Игорь Ашманов: Основное, что правильно требовать от разработчиков, – возможность восстановить порядок принятия решений искусственным интеллектом. Сейчас нейронные сети и другие методы машинного обучения представляют собой «черный ящик»: они тебе говорят «да / нет», но ты не можешь понять, как было принято решение. Нужно сделать «черный ящик» хотя бы немного более «серым».

Кодексы для разработчиков пишут профессиональные юристы, в том числе российские.

Искусственный интеллект сейчас является синонимом больших данных. Камера, распознающая лица, завтра будет по походке определять беременность или наличие заболеваний. Например, по закону, сведения о болезнях у нас абсолютно закрыты, их не всегда может получить даже полиция. Но сейчас всё больше и больше чувствительных данных вычисляемы, они получаются в результате обработки общедоступных, открытых данных. Дальше этому человеку можно что-то втюхивать или дискриминировать его при найме на работу. Зачем нанимать беременную женщину, если она скоро уйдет в декрет, согласно анализу ее перемещений и покупок в Сети? Так может рассуждать тот, кто получил эти данные. Все эти вопросы у нас не урегулированы.

Законы – это выражение общественной этики и норм на бумаге. Сначала нужно выработать отношение нашего общества к этим вопросам, а потом уже строить регламенты.

«Известия»: Что еще разрабатывается в России?

Игорь Ашманов: Отдельно разрабатывается закон об общедоступных пользовательских данных – это про социальные сети. Там идет большая драка: те, кто эти данные собирает, хотели бы их невозбранно использовать. «Яндекс», «Мегафон», «Билайн», «ВКонтакте», «Одноклассники» и им подобные платформы хотели бы закрепить в законе свое право на них. Я слышал аргументацию такого рода: «Мы же купили «ВКонтакте» за $2 млрд и должны эти деньги отбить».

Эти данные точно принадлежат не социальным сетям. Пользователь их производит на этой платформе, но это его данные. С другой стороны, представьте, что вы идете по улице и ваше лицо сняли 139 камер от 27 разных владельцев. Вы не контролируете, куда оно уедет и как будет использовано, а как вы можете владеть чем-то, что не контролируете? В общем, нужно вырабатывать общее понимание.Отношение к этим данным должно соответствовать внутреннему чувству большинства.

Война машин

«Известия»: В каких областях наиболее вероятно развитие искусственного интеллекта?

Игорь Ашманов: Основная сфера приложения – война, это надо ясно понимать. Все стараются не опоздать в этом деле, потому что если кто-то сделает очень быстрое и автономное оружие, которое невозможно будет сбить или отразить, то он, скорее всего, заберет себе весь мир.

Бояться надо не ИИ, а людей, которые его разрабатывают. Все неприятности на нашей планете от людей, и еще немного – от землетрясений или цунами. Лет через 10-15 существующие технологии позволят сделать телохранителя, который будет в состоянии увидеть за 500 м и вынуть из воздуха пулю, выпущенную киллером, потому что его скорость движений будет в 100 раз быстрее, чем у пули. Сделать робота, который движется так, что мы его почти не видим, можно уже сейчас. Это значит, что на поле боя тоже будут такие роботы. И тогда обычный белковый солдат не сможет ничего сделать. Сейчас для него создают специальную экипировку, тепловизоры, накидку-невидимку, которая гасит тепловое излучение, придумывают нейростимуляторы, а через 20 лет на поле боя в любом случае будут работать только роботы, потому что они будут в сто раз быстрее.

«Известия»: Победителем окажется страна, у которой развиты технологии?

Игорь Ашманов: Да. Все армии мира имеют подразделения, занимающиеся искусственным интеллектом. Основной «прогресс» будет именно там. Скорее всего, уже через 2-3 года роботам передадут лицензию на убийство.

«Известия»: Приведет ли развитие искусственного интеллекта к тому, что люди останутся без работы?

Игорь Ашманов: Если социальный строй и устройство корпораций позволяют увольнять десятки тысяч человек, а по стране – миллионы ради грошовой экономии, которую обеспечил ИИ, то он здесь ни при чем – это социальный строй такой. В России и во многих странах Запада есть социальные ограничители при увольнении, а в США часто просто человека на улицу выводят с картонной коробкой в руках и конвертом с выходным расчетом – иди сам разбирайся со своей ипотекой.

Искусственный интеллект можно приладить таким образом, чтобы он заменял людей. Миллионы людей работают в колл-центрах, но через некоторое время простые вопросы голосом будет разбирать робот. Исчезнет довольно много профессий рутинного среднего класса, когда люди бумажки перекладывают.

Артем Кирьянов: Мы так боремся за работу, а бороться надо за другое. Все человечество, к сожалению, вынуждено работать, за исключением 1,5-2% творческих людей, которые от своего бизнеса или развлечений получают и деньги, и удовольствие. Всем остальным надо гораздо меньше работать и гораздо больше отдыхать. Если сохранится соотношение по финансам, общество сможет поставить искусственный интеллект на службу эффективности бизнес-процессов и будет производиться раздача прибыли – как при коммунизме, только с деньгами. Что в этом плохого? Почему мы должны заставлять людей работать 40 часов в неделю, когда они могут работать пять, а всё остальное время проводить хорошо?

Игорь Ашманов: Как сказал Артем, в 1950-1960-х годах все эти проблемы технологий и ИИ были разобраны в великой англосаксонской и русской фантастике (и великим Станиславом Лемом в «Сумме технологий»). Историю о том, что произойдет с людьми на безусловном базовом доходе, много кто разобрал, в частности, Стругацкие в романе «Хищные вещи века». Люди превратятся в дурно пахнущую слизь – это довольно очевидно.

Артем Кирьянов: Вы убиваете мечту многих миллионов. Забудем про базовый доход – пусть будут разные доходы. Дали возможность слесарю или программисту работать меньше, но оставили ту же зарплату. Это гораздо лучше, чем сохранять рабочие места, которые не нужны. Представим, что со всем в компании может справиться один компьютер, но при этом компания вынуждена содержать сто дармоедов, которых нельзя уволить. Это еще хуже, чем отпустить их на свободу и дать шанс на самосовершенствование.

Кого не заменит робот

«Известия»: Есть сферы, куда искусственный интеллект не проникнет в обозримом будущем? Он уже рисует картины, пишет музыку.

Игорь Ашманов: Послушайте музыку, которую сочиняет искусственный интеллект, посмотрите картины, которые он рисует. Вам не понравится, это суррогат. Но, возможно, подавляющее большинство людей будет этим удовлетворяться. Я знаю людей, которые музыку новых стилей уже на 99% собирают автоматически. Можно изменить критерии, массовый культурный уровень, понизить уровень претензий к музыке, ко всему.

Можно, делая качество всего, что производит искусственный интеллект, массовым стандартом – всех накормить, как в фильме «Кин-дза-дза!», пластиковой кашей.

Артем Кирьянов: Искусственный интеллект – ровно то, что закладывают его создатели. Это не человеческая мысль, ее заменить нельзя. А искусственный интеллект не покушается ни на что, потому что у него нет желаний.

Игорь Ашманов: Есть люди либо глупые, либо злонамеренные, которые считают, что искусственный интеллект полезно внедрять в образование. Это категорически вредно. Есть определенный набор вещей, которые не могут быть услугой. Это секс, например. Если он становится услугой, мы знаем, во что это превращается. Не может быть услугой защита Родины. Не должны быть услугой медицина, рождение детей, не могут быть услугой искусство, наука. Все эти вещи также нельзя и автоматизировать, отдавать искусственному интеллекту.

«Известия»: Какие самые яркие и значимые разработки искусственного интеллекта были сделаны в России и в мире?

Игорь Ашманов: В России сейчас делают очень хорошее распознавание лиц, есть несколько очень крутых компаний. Большая поисковая машина в интернете – тоже искусственный интеллект. Этих поисковых машин в мире раз, два, и обчелся: две или три американских, две или три российских, еще есть немножко в Китае, в Корее, одна умирающая в Чехии. Запустить спутник гораздо проще, чем сделать поисковик. У нас очень сильные программисты, математики. У нас все это разрабатывается на мировом уровне.

Транспортные, обрабатывающие роботы все изменят в промышленности в ближайшие десять лет. В медицине перспективна роботизированная диагностика. В области рутинного общения будут чат-боты – виртуальные собеседники, которые заменят колл-центры, скорее всего.

Артем Кирьянов: Есть много правильных вещей. Все так ругаются на нашу телемедицину просто от непонимания, какие возможности есть. В отдаленном поселке Якутии фельдшер лечил, как мог, а тут вдруг можно и с профессором посоветоваться, причем по объективным историям с нормальной диагностикой. Чуть еще доработать, и чтобы профессор практически уже руками дотянулся через 7 тыс. км и пощупал.

Игорь Ашманов: Есть обратная сторона – процесс уберизации, когда информационный посредник сводит людей, желающих оказать услугу и получить услугу, как бы сам ни за что не отвечает, как «Яндекс. Такси» и другие агрегаторы. «Яндекс» не таксопарк, и это огромная дыра в законе и в этике.

Не нужно, чтобы было так: мы просто инфопосредник, сводим врача с купленным дипломом и смертельно больного пациента с деньгами, бери комиссию, дальше не наша забота.

«Известия»: Каким будет мир с участием искусственного интеллекта через 20 лет?

Игорь Ашманов: Скорее всего, всё будет не так, как мы ожидали. У всего есть стремление к росту сложности и к ухудшению: потеря приватности, управление людьми через устройства, боевые роботы, убивающие людей.

Артем Кирьянов: Я лучше скажу, чего не будет. Хотелось бы, чтобы у нас произошел скачок с транспортом, логистикой и дорогами, но он не произойдет в ближайшие 20 лет. Мы будем по-прежнему ремонтировать и строить в том же ритме. Не будет новых видов транспорта, которые мы сегодня не можем предсказать: ни летающих автомобилей, ни беспилотников для жизни. Будем жить, как обычно, и много работать.

Елена Лория, Валерия Нодельман
Газета «Известия», 00:01, 19.04.2019