P:
Dlaczego niektórzy martwią się sztuczną inteligencją?
ZA:Zmiana nie jest łatwa i wiele osób ma trudności z przystosowaniem się do niej. Dotyczy to szczególnie zmian technologicznych. Znany profesor Harvardu Calestous Juma napisał książkę na temat zatytułowaną „Innowacja i jej wrogowie: dlaczego ludzie opierają się nowym technologiom”. Książka przedstawia napięcie między innowacją a porządkiem społecznym, czerpiąc z 600 lat historii. Wpływ technologii jest szczególnie kłopotliwy, jeśli chodzi o sztuczną inteligencję.
Nie wszyscy są przeciwni tym postępom. Ray Kurzweil, autor „The Singularity is Near” i „The Age of Spiritual Machines”, jest niczym innym jak ewangelistą promującym zalety genetyki, nanotechnologii i robotyki (termin używany dla inteligencji niebiologicznej). Ale są to te same problemy - i ta sama osoba Kurzweil - które w 2000 r. Wywołały duże zaniepokojenie dla Billa Joya, głównego naukowca w Sun Microsystems.
Joy napisał o swoich zmartwieniach w znanym już artykule w magazynie Wired zatytułowanym „Dlaczego przyszłość nas nie potrzebuje”. Uważał, że zagrożona jest sama przyszłość rasy ludzkiej. Nawiązując do konkurencji historii ewolucji, Joy napisał: „Gatunki biologiczne prawie nigdy nie przeżywają spotkań z najlepszymi konkurentami”. Przełomy naukowe, w wyniku których maszyny przewyższają ludzi, wiążą się ze znacznym ryzykiem. Przychodzą mi na myśl wizje dystopijnej przyszłości.
Załóżmy, że naukowcy są w stanie opracować maszyny ze sztuczną superinteligencją (ASI), o poziomie inteligencji wyższym niż ludzie. Radość mówi, że może zdarzyć się jedna z dwóch rzeczy: albo maszyny będą mogły podejmować własne decyzje, albo ludzie utrzymają nad nimi kontrolę. Co się stanie, jeśli przekażesz moc maszynom? Jakie mogą być wyniki?
Bill Joy nie jest jedynym, który wyraża obawy. Elon Musk, guru techniki, powiedział: „Przy pomocy sztucznej inteligencji wzywamy demona”. Nazwał to „naszym największym zagrożeniem egzystencjalnym”. Fizyk Stephen Hawking powiedział uczestnikom konferencji technologicznej, że „nie możemy wiedzieć, czy sztuczna inteligencja nieskończenie nam pomoże, albo zignorowane przez niego i wyłożone bocznie, albo prawdopodobnie przez to zniszczone. ”I powiedział magazynowi Wired:„ Obawiam się, że AI może całkowicie zastąpić ludzi ”.
Czy te obawy są uzasadnione? Filmy science fiction, takie jak „Transcendencja”, w których postać Johnny'ego Deppa łączy się ze sztuczną inteligencją i sieje spustoszenie, przypominają przewidywania Kurzweila dotyczące tego, jak ludzie mogą łączyć się z maszynami. Wyobraźnia szaleje na wszystkie sposoby, w jakie sztuczna inteligencja może się nie udać. Co dzieje się, gdy maszyny przejmują kontrolę?
Dwa prawdziwe przykłady ilustrują, jak niepokój związany ze sztuczną inteligencją może być zrozumiały. W 2007 r. Armata robota zabiła dziewięć osób i zraniła 14. Niektóre zaawansowane bronie wojskowe automatycznie wybierają cele, ale czekają, aż człowiek pociągnie za spust. Kto tutaj podejmował decyzje? W 2016 r. 300-kilogramowy robot bezpieczeństwa powalił i przejechał szesnastomiesięcznego malucha. Kto kontrolował w tym przypadku: człowiek czy maszyna?
Powodem, dla którego niektórzy martwią się sztuczną inteligencją, jest to, że ryzyko jest realne. Następne pytanie: jak poradzimy sobie z tymi zagrożeniami?
