Czy możesz zaufać AI? Czy powinieneś zaakceptować jego ustalenia jako obiektywnie ważne bez pytania? Problem polega na tym, że nawet kwestionowanie samej AI nie dałoby jasnych odpowiedzi.
Systemy AI działają ogólnie jak czarna skrzynka: dane są wprowadzane, a dane są wyprowadzane, ale procesy przekształcające te dane są tajemnicą. To stwarza podwójny problem. Jednym z nich jest to, że nie jest jasne, które algorytmy są najbardziej niezawodne. Po drugie, pozornie obiektywne wyniki mogą być wypaczone przez wartości i uprzedzenia ludzi, którzy programują systemy. Właśnie dlatego istnieje potrzeba przejrzystości dla wirtualnych procesów myślowych wykorzystywanych przez takie systemy lub „możliwą do wyjaśnienia sztuczną inteligencję”.
Imperatyw etyczny stał się obowiązkowy dla każdego, kto podlega RODO, co wpływa nie tylko na firmy mające siedzibę w UE, ale także na osoby, które mają tam kontakty z ludźmi lub organizacjami. Zawiera szereg przepisów dotyczących ochrony danych, które rozciągają się na obywateli UE „prawo do niepodlegania wyłącznie zautomatyzowanemu podejmowaniu decyzji, z wyjątkiem niektórych sytuacji” oraz „prawo do uzyskania istotnych informacji o logice związanej z decyzją . ”
