То е единственият грях, за който е невъзможно да се покаеш
„Небесна мрежа“ е една от най-амбициозните и мащабни системи за масово наблюдение в света
Роботите-прокурори могат автоматично да повдигат обвинения по предварително дефинирани престъпления
Понякога ми се струва, че темите витаят като мухи около главата ми, само не мога да си обясня защо тези мухи са зелени. Ето, още в началото на седмицата бях решил днес да се занимая с правосъдието в Китай и как го поверяват на роботи, и ето че вчера роботите забръмчаха около мен по друг повод – Бил Гейтс предрича, че Изкуственият интелект дотам ще облекчи трудовото ни ежедневие, че до 10 години ще преминем на двудневна работна седмица. Ужасих се по ред причини, като цяло видях как човечеството изпада в пълна деградация, обаче се оказа, че има хора на различно мнение. Ето например какво пише някоя-си г-жа Радка Димитрова от фейсбук в отговор на моите разсъждения:
“Другарю Гейтс, нашите идиоти царистката Христина Христова и крадеца Хампарцумян настояват хората да се пенсионират над 70 години… Ако може да работят по 24 часа на ден при шестдневна работна седмица… Тези двама фашисти изобщо не Ви слушат… Впрочем китайците вече имат роботи полицаи. Добре се справят. Надявам се скоро в България да заменим българските ченгета с роботи. Роботите по-добре се справят. Не са корумпирани и по-евтино ще ни излезе…”.
Видяхте ли вече общото между мухите? Роботи полицаи – роботи съдии. Признавам, че бях изненадан като научих от статията “Правосъдието в Китай: между дигиталния контрол и новите технологии” колко далеч са стигнали братята китайци в областта на правосъдието. Чувах вече, че ще има лекари-роботи, но за съдии не допусках. Макар че и с лекарите е тревожно. Изкуственият интелект често греши и не си признава, докато не го разобличиш. Ако сбърка някоя диагноза, какво ще му направиш, каква отговорност ще понесе? Или кой ще понесе заради него?
Оказва се, че в Китай много често може да се случи съдбата ти да се реши от изкуствен интелект. И не само това. Въвели са система на т. нар. “социален кредитен рейтинг”. Всеки гражданин има определен брой точки като шофьорите у нас (дали у нас това не е само едно добро начало?) и при всяко провинение му се отнема известен брой то тях – еди-колко-си, ако си хвърлиш фаса на улицата, еди-колко-си, ако минеш на червено, еди-колко-си, ако се клатушкаш пиян и се държиш за стените или дори просто си купуваш алкохол и т. н., и т. н. С намаляването на точките започваш да губиш право на достъп до различни обществени места и услуги – ограничения при пътувания, отказ от банкови услуги, забрана за регистрация на деца в добри училища и др. Когато точките ти съвсем свършат, не ти остава нищо друго, освен да напуснеш града и да идеш на село да джапаш в оризищата до края на дните си. А как – ще попитате – се установяват тези в общи линии дребни граждански провинения? Много просто: чрез видеонаблюдение.
В Китай действа система, наречена “Небесна мрежа” (Skynet), съставена от над 500 милиона камери с лицево разпознаване, свързани с бази данни и използвани за идентификация на заподозрени, проследяване на движение и контрол над масовите събития. Вече има и полицейски очила с лицево разпознаване за радост на г-жа Радка Димитрова от фейсбук. “Небесна мрежа” е една от най-амбициозните и мащабни системи за масово наблюдение в света. Тя съчетава видеонаблюдение, изкуствен интелект, разпознаване на лица и анализ на “големи данни”, за да осигурява високо ниво на контрол над обществото. Софтуерът може да идентифицира хора в реално време, дори и при лошо осветление, под различни ъгли или когато са частично прикрити. Освен лице, системата може да анализира походка, телесна стойка, височина и начин на движение. Използва AI алгоритми за откриване на “подозрително поведение”, като продължително стоене на място, бързо движение в определени зони, събиране на групи, разходка в забранени участъци и пр. Системата се използва както за следене на престъпници, така и за мониторинг на политически дисиденти, журналисти, адвокати по права на човека, религиозни малцинства, особено в региони като Синцзян. Цялата тази прелест завършва… дръжте се сега!… с AI прокурори – ново поколение системи, които издават обвинения на база машинен анализ. “Прекрасният нов свят” (известната дистопия на Олдъс Хъксли от 1932 г.) може да носи куфарите на добрия стар Китай.
Но на мен най-любимо и същевременно най-потресаващо ми е т. нар. “умно правосъдие” (smart justice). Китай се оказва световен пионер в интегрирането на AI в правосъдието, като разработва платформи за “виртуални съдии”, роботизирани обвинители, автоматизирани решения по дела, онлайн съдилища и взаимосвързани бази данни със съдебни прецеденти.
Въвеждат го в големите градове като Ханджоу и Пекин. Умното правосъдие завежда дела, събира доказателства, разпитва, пледира и постановява решения изцяло онлайн, без физическо присъствие. Роботите-прокурори (AI Prosecutors) могат автоматично да повдигат обвинения по предварително дефинирани престъпления (измами, хазарт, кражби и др.). Твърди се, че системата постига над 97% точност при автоматизирана квалификация на деянията. Ами останалите почти 3%? През 2023 делата от този вид (само от този вид!) са били 383 800. От тях 3% са 11 514! Официално допустими над 11 хиляди съдебни грешки годишно, над 11 хиляди съсипани животи на невинни хора. Какви ли са изчисленията на китайците, какъв ли е толерансът им по време на война? Страх ме е да си помисля…
Извън всичко друго, на мен ми е малко страшничко и заради това, че роботът полицай или роботът съдия лесно биха били манипулирани от онзи, който се грижи за софтуера им, а онзи, който се грижи за софтуера им, със сигурност ще е човек на онзи, който има икономическия ресурс да придобие и упражнява властта. Ще стане нещо като с машинното гласуване, дето уж е измислено, за да елиминира всякакви манипулации и фалшификации, но вече забранено в много страни именно поради това че ги благоприятства. И тогава цялата идея за безпристрастност и неподкупност отива на кино. Остава само бездушието и суровата буква на закона. Кой каза “антиутопия”? Не, това е просто сух реализъм.
Защо е така? Това някакъв чудовищен заговор ли е или просто няма друг начин? Много пъти съм казвал, че контролът на особено големи количества хора изисква особено специални мерки. Но дали само количеството е решаващо, какво да кажем за качеството на човешкия материал?
Било е време, когато за средно по тежест престъпление са отсичали я ръка, я са отрязвали език или пък са избождали очи. После е дошло друго време и наказанието е станало недопускане до причастие или отлъчване от църквата. Какво се е променило междувременно? Променило се е това, че контролът някак си се е превърнал в самоконтрол, съвестта е поела част от функциите на страха. Но това не се е разпростряло върху всички хора. Не всички са готови за онзи хуманизъм, който проповядва Църквата и който почива на убеждението, че всеки човек е образ Божи, което го прави достоен за уважение от другите и отговорен пред самия себе си. Ако човекът не знае, че е образ Божи, тогава инстинктите му надделяват, егоизмът и жестокостта го завладяват и той се превръща в най-обикновен хищник. Всъщност, не – превръща се не в обикновен, а в най-опасния и кръвожаден хищник под небето. Хайде сега да си представим как се удържат в някакви законови рамки стотици милиони и милиарди най-опасни и кръвожадни хищници!
Европейската култура е хуманистична и затова е дала такива възхитителни в духовно и естетическо отношение плодове. Но напоследък дефиницията на европейския хуманизъм започва да се забравя или да се извращава. Сякаш вече губим представа кои сме, откъде идваме и къде отиваме. А като я загубим съвсем, и на нас ще ни турят на врата роботи полицаи, прокурори и съдии; ще ни натикат в самоуправляващи се smart затвори и насила ще ни поддържат живи, за да не спрат да бият сърцата ни, от които вече ще сме забравили каква е ползата.
Страшно е когато антиутопиите се превръщат в реалност. Но ние не сме само жертви на реализираните антиутопии, но и техни създатели. Злото ни атакува отвън, но ни е проникнало дотам, че го носим и в себе си като нещо свое. Единственото спасение да потърсим доброто, което също носим и което ще надживее злото. Освен това мисля, че Картаген трябва да бъде разрушен.
Автор: Иван Стамболов-Сула
trud.bg
