Одной из таких причин является попытка подчинить своей воле более мощный во всех отношениях разум. Как известно из истории, это возможно - иногда президентами становятся завгары и водители автобусов. Но и хэппи-энда у таких историй не бывает, а в случае с полноценным ИИ было бы совсем наивно надеяться на успех.

«Если заменить слово «робот» на «раб», то станет очевидно, что Азимов писал о страхе людей перед человеческой технологией. Но идея порабощения интеллекта, который значительно превосходит наш собственный, сомнительна. Рабы склонны к побегу и бунту, особенно когда они в состоянии перехитрить своих хозяев» - пишет Кевин Корб, автор книги «Эволюционирующая этика: новая наука добра и зла». Поди возрази...

Чуть раньше за проблему взялись сотрудники Массачусетского технологического института: они запустили онлайн-анкетирование, в котором мог принять участие каждый желающий. Респондентам предлагалось оценить несколько ситуаций с гарантированным летальным исходом и сделать выбор - кем пожертвовать. Мужчиной-водителем или ребенком-нарушителем ПДД? Стариком в коляске или молодой женщиной? Котиком, который просто мимо проходил, или пьяным автовладельцем? Ответы каталогизировались и на их основе исследователи попытаются спрогнозировать человеческую реакцию.

Причем, действовать нужно уже сейчас - на подходе серийные авто с 4-м уровнем автономности из пяти, предполагающим вмешательство водителя только в исключительных случаях. Возможно, будет разработан единый стандарт, регламентирующий реакции бездушной электроники в отчаянных ситуациях. В любом случае, нерешаемую этическую дилемму придется как-то решать.

Есть и второй путь, пролегающий через использование искусственного интеллекта. А если точнее, одной малопонятной широким слоям населения технологии - т.н. машинного обучения по прецедентам. Поскольку предвидеть все возможные ситуации практически нереально, в память ИИ загружаются ситуации “на основе реальных событий”. Затем где-то в недрах ИИ формируются некие реакции на эти ситуации, по которым впоследствии машина будет оценивать входящую информацию и выдавать решение, удовлетворяющее заданным критериям. Например, правилам дорожного движения. Иными словами, машину учат принимать самостоятельные решения на основе прошлого опыта - и на этот раз в прямом смысле и без кавычек.

Несмотря на всю сырость концепции, у этой технологии есть серьезное преимущество - хорошо дрессированный ИИ может обойтись без кучи датчиков. Недавно Audi показала систему, создающую трехмерное изображение на основе картинки с одной видеокамеры и показаний дальномера. Кроме прочего, система распознает 18 основных классов объектов на дороге. Это позволяет надеяться на удешевление автопилотов в будущем, но есть нюанс.

Конечно, речь идет не о каждом конкретном автомобиле, но о целых модельных рядах. Однако, даже в таком случае “неуд” в табеле означает серьезные задержки выхода новых моделей на рынок. А потому вполне вероятно, что роль ИИ в автопилотировании еще долго будет ограниченной. Возможно, оно и к лучшему.