ИИ решит все проблемы

Наткнулся я сегодня на вот такую любопытную статью: https://don-katalan.livejournal.com/1912746.html

Суть ее сводится к тому, чтобы с помощью машины и искусственного интеллекта попытаться контролировать человека и не давать ему реализовывать свои низменные инстинкты. Например, бесстрастный полицейский. Если вы нарушили он вас оштрафует невзирая на регалии и популярность. Он не возьмет взятку, автоматически отметит факт нарушение и прочее прочее.

И на поверхностный взгляд идея разумная. Так же как земля кажется плоской на первый взгляд. Давайте возьмем пример который уже реализован и с которым все знакомы – светофор. Для чего ввели светофор? Именно для этого. Чтобы каждый знал когда можно ехать, а когда нет. И опять же на первый взгляд идеальное решение. Все равны перед светофором: и бедные и богаты и знаменитые и не очень и красивые и не очень.  Казалось бы, все супер. Работает как нужно. Но это пока не вдаваться в детали. Начнем со спец машин. Если скорой нужно быстро приехать куда нужно, но горит красный свет. Естественно, когда жизнь человека в опасности, скорая не будет ждать и проедет, рискуя на красный, надеясь на то, что все люди уступят дорогу. И получается, когда очень нужно все равно мы полагаемся на людей, а не на бездушную машину.

В некоторых странах эти машины имеют специального устройство, которое может переключить свет и, казалось бы, проблема решена. Но что мешает влиятельным и знаменитым купить себе похожее устройство?  Опять же на человека полагаемся. Да можно потом поставить камеры и смотреть каждое такое использование и потом наказывать, но опять же это все требует участия человека.

А если вам нужно супер срочно проехать? Например, вы везете беременную жену в роддом. Или тяжелораненого человека в госпиталь? Или вы Джеймс Бонд и спасаете страну? Можете вы упросить светофор? Разумеется, что нет.

А скажем если был бы регулировщик, он, сразу же услышав звуки сирены остановил бы поток и освободил бы дорогу для спец транспорта. Или скажем он пропустил бы вас если вы везете жену в роддом или даже он бы мог внять вашей просьбе и пропустить вас, если вы опаздываете на самолет.

Понятно, что в целом светофор решает свою задачу и никто не будет ставить регулировщика, потому что случаи, когда он нужен крайне редки и в целом все работает хорошо на 99.99%.

Но опять же светофор — это экстремально простое устройство. Даже если вы опаздываете, то в худшем случае он вас задержит только на пару минут.

А теперь представьте просто пример, что на входе в роддом стоит дверь, которая пустит вас с рожающей женой только после того, как просканирует паспорт. А вы в спешке забыли его. И что делать? Дверь автоматическая, она не откроется, и объяснить что-то не получится. Понятно, что это утрированный пример, но ситуация я думаю понятна.

Другой пример. Как многие знают сейчас много, где ставят систему распознавания голоса и когда вы звоните скажем в банк, то вас просят назвать причину. И вот кто-то посчитал, чтобы прежде, чем вас соединят с оператором, вы должны назвать номер счета. А вы не помните. И вы потратите огромное количество усилий просто чтобы достучаться до живого человека, который найдет ваш номер счета за пару минут. И опять же я хочу подчеркнуть, что речь идет об очень простых вещах и очень простых устройствах.

А что, если, например кто-то решит, что судьи должны быть роботами и быть беспристрастными? Вы угнали машину? Да, ваша честь. Вот вам ваши 5 лет. И все равно кто ты: бомж или президент, пожалуйте в карцер. Увидимся через пару лет. А то, что вы ее угнали, чтобы довести в госпиталь тяжелораненого человека алгоритм может и не учесть. Зато потом могут наградить. И так везде.

Не нужно сваливать свои проблемы на бездушную машину. Если есть проблемы с коррупцией, то нужно их решать, а не надеяться на машину. Потому что всегда будет тот, кто программирует и управляет этими машинами. Или допустим, что мы построим систему, которую можно обучить как нужно правильно делать. Кто ее будет обучать? Кто ее будет дообучать? Что помешает обучить скажем полицейского, что если будет ехать Петя, то его не замечать? И даже просто зная алгоритм, как они работает система, можно получать множества благ. И получить ту же коррупцию, просто в другом месте. Сейчас деньги за незаконное строительство получает скажем министр, а будет получать программист или его начальник, который знает алгоритм работы и скажет как подать документы, чтобы машина разрешила незаконное строительство. Мы не решили проблему, а просто сместили ее в другое место и ввели дополнительную сущность.

И уже молчу про то, что даже светофоры довольно часто ломаются, а что говорить про сложные системы? Посмотрите сколько проблем в последнее время у автопроизводителей? Чем больше там электроники, тем больше проблем. Машина начинает сама поворачивать, разгоняться и тормозить. И все это уже в машинах несколько лет. Посмотрите сколько смертельных случаев было связанных с ошибками в программном обеспечении машин. А сколько не смертельных или просто небольших аварий. И чем сложнее система, тем сложнее ошибки и тяжелее их исправить. И растет все это в геометрической прогрессии. Это я вам как специалист с многолетним опытом работы в данной области.

Машины должны облегчать жизнь человека и избавлять от рутины, а не решать судьбы людей, так как заблагорассудится бездушной программе.