Śmiertelna cyfrowa dehumanizacja | Obserwatorium Praw Człowieka

Często słyszymy o „powstaniu maszyn”, ale drugą stroną tego zjawiska jest to, co naprawdę powinno nas niepokoić: „upadek ludzkiej kontroli”.

Ci z nas, którzy koncentrują się na prawach człowieka, są szczególnie zaniepokojeni tym, co to oznacza dla użycia siły. Kto podejmuje najważniejsze decyzje – decyzje, które mogą zranić ludzi, nawet decyzje dotyczące życia i śmierci?

Od lat ostrzegamy przed w pełni autonomiczną bronią, zwaną inaczej „zabójczymi robotami”, która byłaby w stanie wybierać i atakować cele w strefach działań wojennych (a nawet policyjnych) bez żadnej prawdziwej kontroli człowieka.

Tak, to fabuła stu filmów science fiction, ale zagrożenie jest bardzo realneI.

Wiele krajów już używa prekursorów tej broni, takich jak uzbrojone drony. Bez zakaz „zabójczych robotów”, rządy zrobią kolejny krok i zaczną delegować decyzje dotyczące życia i śmierci maszynom.

Z rozkazu maszyn ludzie staliby się ich poddanymi. Bylibyśmy niewiele więcej niż punktami danych, których maszyny używałyby do decydowania, kto żyje, a kto umiera.

Eksperci nadali temu procesowi nazwę, cyfrowa dehumanizacjaa pomysł można zastosować poza systemami uzbrojenia – pomyśl o samojezdnych samochodach lub diagnostyce medycznej.

Kiedy jednak człowiek zostaje sprowadzony do danych, a dane te stają się podstawą decyzji, które mogą negatywnie wpłynąć na jego życie, pojęcie odpowiedzialności człowieka za błędy zastępujemy czymś w rodzaju „zautomatyzowanej szkody”.

W strefie konfliktu konsekwencje byłyby katastrofalne.

Bez kogoś – jakiejś istoty ludzkiej – do pociągnięcia do odpowiedzialności za okrucieństwo, osiągnięcie jakiejkolwiek sprawiedliwości jest praktycznie niemożliwe. Masakra ludności cywilnej w strefie konfliktu byłaby przedstawiana raczej jako problem projektowy niż jako zbrodnia wojenna.

A nasza cyfrowa dehumanizacja byłaby kompletna.