P:
Dlaczego DARPA prowadzi badania nad „możliwą do wyjaśnienia sztuczną inteligencją”?
ZA:Ogólnie rzecz biorąc, możliwa do wyjaśnienia sztuczna inteligencja staje się bardzo zwiastunem najnowocześniejszych prac w dziedzinie nauk o danych. Pomaga kierować ludzką kontrolą nad niestabilnym i dynamicznym rodzajem technologii - wyjaśnialna sztuczna inteligencja pomaga odpowiedzieć na wiele naszych wspólnych pytań dotyczących działania sztucznej inteligencji.
Aby zrozumieć wyjaśnianą sztuczną inteligencję, pomaga zrozumieć, jak wygląda „zwykła sztuczna inteligencja”. Tradycyjnie, gdy sztuczna inteligencja zaczyna nabierać kształtu, typowy projekt składa się z nowego, fantazyjnego oprogramowania, ukrytego w algorytmach i zestawach szkoleniowych oraz w kodzie liniowym, co jest dla użytkowników czymś w rodzaju „skrzynki blokowej”. Wiedzą, że to działa - po prostu nie wiedzą dokładnie jak.
Może to prowadzić do „problemów z zaufaniem”, w których użytkownicy mogą kwestionować podstawy, na których technologia podejmuje decyzje. Do tego ma się odnieść sztuczna inteligencja: Projekty AI, które można wyjaśnić, są wyposażone w dodatkową infrastrukturę, aby pokazać użytkownikom końcowym zamiary i strukturę sztucznej inteligencji - dlaczego robi to, co robi.
W czasach, gdy najlepsi innowatorzy, tacy jak Bill Gates i Elon Musk, wyrażają zaniepokojenie działaniem sztucznej inteligencji, możliwa do wyjaśnienia sztuczna inteligencja wydaje się niezwykle atrakcyjna. Eksperci twierdzą, że dobra sztuczna inteligencja, którą można wytłumaczyć, może pomóc użytkownikom końcowym zrozumieć, dlaczego technologie robią to, co robią, zwiększyć zaufanie, a także zwiększyć łatwość użycia i wykorzystanie tych technologii.
W szczególności jednak DARPA wyjaśnia szczegółowo, dlaczego jest zainteresowana nowymi projektami. Strona na stronie DARPA pokazuje, że Departament Obrony przewiduje „potok” zastosowań sztucznej inteligencji i pewien chaos w jego rozwoju.
„Ciągłe postępy obiecują stworzyć autonomiczne systemy, które będą postrzegać, uczyć się, decydować i działać samodzielnie”, pisze David Gunning. „Jednak skuteczność tych systemów jest ograniczona obecną niezdolnością maszyny do wyjaśnienia swoich decyzji i działań użytkownikom. … Wyjaśnialna sztuczna inteligencja - szczególnie możliwe do wyjaśnienia uczenie maszynowe - będzie niezbędna, jeśli przyszli wojownicy będą rozumieć, odpowiednio ufać i skutecznie zarządzać wschodzącym pokoleniem sztucznie inteligentnych partnerów maszynowych. ”
Internetowy esej Gunninga sugeruje, że możliwe do wyjaśnienia systemy sztucznej inteligencji pomogą „dostarczyć uzasadnienie” technologii, pokazać ich mocne i słabe strony oraz uczynią przypadki użycia bardziej przejrzystymi. Grafika na stronie pokazuje, jak prosty potok funkcji sztucznej inteligencji pochodzący z danych szkoleniowych zostałby wzbogacony o coś, co nazywa się modelem możliwym do wyjaśnienia i interfejsem, który pomoże użytkownikowi odpowiedzieć na pytania. Gunning sugeruje ponadto, że program AI, który można wytłumaczyć, będzie miał dwa główne obszary zainteresowania - jednym z nich będzie przeszukiwanie danych multimedialnych w celu znalezienia tego, co jest przydatne dla użytkowników, a drugim - symulacja procesów decyzyjnych w celu wsparcia decyzji.
DARPA ma nadzieję na dostarczenie „zestawu narzędzi”, który może pomóc w opracowaniu przyszłych systemów AI umożliwiających wyjaśnienie.
