г.Москва, ул.14 Парковая д.6

В 2018 году искусственный интеллект вышел «на свободу». Были реализованы первые масштабные проекты внедрения систем распознавания образов, движения беспилотного транспорта, найма сотрудников. Эти опыты выявили пять важнейших угроз от ИИ, которые заставляют скептиков требовать сначала установить этические нормы в его отношении, а уже затем продолжать масштабные эксперименты

Обширные территории до самого горизонта на карте бизнеса, связанного с ИИ, заняты сейчас несколькими глобальными мегакорпорациями — это все те же Amazon, Google, Apple, Microsoft, Tencent, Facebook. Именно они застраивают пейзаж, создают там инфраструктуру и новые механизмы аккумулирования капитала и эксплуатации природных и человеческих ресурсов планеты.

Еще год назад журнал Forbes оптимистично писал, что 2018-й станет прорывным в целом спектре областей, связанных с ИИ. В первую очередь называли автомобильную отрасль, где ИИ не только будет управлять машиной, но и возьмет под свою ответственность безопасность, досуг и даже эмоциональное состояние пассажиров. ИИ станет совсем умным и начнет отвечать на вопрос «почему», объясняя потребителям, что стоит за тем или иным решением. Ценообразование станет динамическим и будет меняться не только в зависимости от общего спроса и предложения, но с учетом запросов и даже эмоций конкретного потребителя, для каждого из которых будет установлена своя цена. О том, чтобы вызвать эмоции, благоприятные для совершения покупки, позаботятся не только вездесущие чат-боты, но и информационные помощники типа Сири.  ИИ станет вездесущим, как вода и воздух, а компании, не добавившие хотя бы тонкий слой ИИ на свой продукт, заведомо потеряют в конкурентной борьбе.

Amazon, Google и другие компании — разработчики ИИ вроде бы могут быть довольны: им в целом удалось достичь поставленных целей и начать получать выгоду.

Однако по итогам года стало понятно и то, что опасности, о которых предупреждали такие исследователи ИИ, как записанный в пессимисты Ник Бостром, проявили себя гораздо раньше, чем этого ожидали оптимисты.

В марте управляемый ИИ автономный автомобиль компании Uber не увидел на дороге женщину, и это закончилось летальным исходом. В том же месяце сотрудники Google выступили с беспрецедентным протестом против создания систем ИИ по заказам Пентагона для систем вооружений. В мае система распознавания голоса, предназначенная разоблачать злоупотребления при подаче заявлений на иммиграцию в Великобританию, «сошла с ума», аннулировала тысячи виз и приняла решения о высылке из страны сотен людей. Цифровой помощник IBM Watson рекомендовал людям, больным раком, неправильные и небезопасные для здоровья препараты, а алгоритм, разработанный для иммиграционной и таможенной полиции США, стал выдавать одну-единственную рекомендацию для всех без исключения иммигрантов: задержать.

Вопрос уже в том, есть ли опасность в ИИ-технологиях, говорится в докладе AI Now. В том, какие меры уже сейчас нужно принимать правительствам, обществу, бизнесу, чтобы избежать развития событий по самым худшим сценариям. Проблема особенно насущна, учитывая масштаб систем на базе ИИ.

NO Comment 10.01.2019