Sztuczna inteligencja to wciąż relatywnie nowa dziedzina, którą starają się zgłębić zarówno specjaliści od nowych technologii, marketerzy, jak i media. Aby lepiej zrozumieć mechanizmy AI, warto przyjrzeć się kilku aspektom, które mają zasadniczy wpływ na jej funkcjonowanie i zadać podstawowe pytania: kto, co, gdzie, kiedy i dlaczego. Ułatwi to dojście do sedna problemu lub uzyskanie informacji potrzebnych do objaśnienia nieprzewidzianych skutków działania sztucznej inteligencji.
Niklas Enge,
dyrektor regionalny Nordics i Polska, Progress
Luka informacyjna
Odpowiedzialność za informacje generowane przez sztuczną inteligencję staje się priorytetem ze względu na to, że coraz więcej firm wykorzystuje ją w swoich działaniach, np. do udzielania odpowiedzi klientom (za pomocą chat-botów) czy do uruchamiania lub usprawnienia swoich systemów informatycznych i biznesowych. Budowanie zaufania do jakiejkolwiek aplikacji lub oprogramowania bazującego na AI lub uczeniu maszynowym jest niezwykle ważne z punktu widzenia firm. Ale będzie ono trudne do zdobycia bez potwierdzenia, że te mechanizmy działają rzetelnie i etycznie. Kluczowym aspektem odpowiedzi na pytanie o minimalizowanie luki informacyjnej jest zatem wiedza o tym co stało się z danymi, kiedy to się stało, kto podjął te decyzje, gdzie to się stało i dlaczego dokonano zmian lub klasyfikacji danych.
Luka informacyjna to kluczowy problem, z którym mierzą się badacze i architekci sztucznej inteligencji. AI tworzy tzw. halucynacje, czyli pewnie formułowane stwierdzenia, które nie są prawdą. Wynika to najczęściej z faktu, że jej mechanizmy nie rozumieją kontekstu prośby użytkownika. Kolejnym problem jest także tendencyjność danych. Przeprowadzone przez Progress badanie wykazało, że 78 proc. osób odpowiedzialnych za podejmowanie decyzji biznesowych i związanych z IT uważa, iż różnego rodzaju uprzedzenia obecne w danych staną się większym problemem wraz ze wzrostem wykorzystania sztucznej inteligencji oraz uczenia maszynowego. Każdego dnia tendencyjność danych może negatywnie wpływać na podejmowanie decyzji w ramach działalności biznesowej. Rośnie ryzyko zagrożenia dla jej stabilności i ładu, utraty zaufania klientów, implikacji finansowych oraz potencjalnych konsekwencji prawnych i etycznych. Dlatego, w ramach strategii stawiania na pierwszym miejscu interesu naszych klientów, chcemy zapewnić, że korzystając z narzędzi AI/ML będą oni uzbrojeni w odpowiednie informacje, aby podejmować najlepsze biznesowe decyzje.
Odpowiedzialność wymaga odpowiednich narzędzi
Zdolność do prowadzenia audytu danych, ich identyfikacji oraz pochodzenia, to kluczowe aspekty każdego systemu zarządzania informacją. Ma to jeszcze większe znaczenie w przypadku danych wykorzystywanych do zasilania mechanizmów sztucznej inteligencji i sposobu, w jaki ona wykorzystuje je do podejmowania decyzji. Klienci chcą mieć pewność, że ich dane są pod kontrolą, dlatego często wybierają produkty oferujące funkcję dwuczasowości. Umożliwia ona użytkownikom śledzenie danych dla każdego rekordu w dwóch przebiegach – zarówno w trakcie ich użytkowania (gdy dane są poprawne w momencie obserwacji), jak też w czasie dokonania transakcji (gdy dane zostały wprowadzone do bazy danych).
Funkcja ta ułatwia użytkownikom bardziej efektywne zarządzanie zmieniającymi się danymi, śledzenie tych zmian w czasie oraz zarządzanie wieloma zmianami w samej platformie danych. Ogranicza to potrzebę stosowania dodatkowych narzędzi we własnej infrastrukturze, co przyczynia się do jej uproszczenia oraz zmniejsza całkowity koszt pracy.
Kontekst danych to podstawa
Zaimplementowanie do swojej strategii zarządzania danymi odpowiednich narzędzi pozwala lepiej zrozumieć, dlaczego zostały one sklasyfikowane w taki sposób, o jaki dodatkowy kontekst zostały uzupełnione oraz dlaczego niektóre dane są bardziej istotne dla konkretnego zapytania. Wówczas zrozumienie decyzji podejmowanych przez człowieka lub bazujących na sztucznej inteligencji staje się o wiele łatwiejsze do wyjaśnienia oraz rośnie zaufanie do nich.
Ponadto warto uwzględnić metadane geoprzestrzenne, aby odpowiedzieć na pytanie gdzie dokonywane są zmiany w danych, a także skontrolować dostęp oparty na rolach, który wyjaśni kto i gdzie manipuluje danymi. Powyższe aspekty muszą być wzięte pod uwagę w procesie szukania odpowiedzi na pytanie jak podejmować decyzje bazujące na sztucznej inteligencji. Na pewno należy wystrzegać się sytuacji, w których proces podejmowania decyzji wewnątrz algorytmu będzie tak złożony, że nikt nie będzie w stanie odpowiedzieć na tych pięć podstawowych pytań: kto, co, gdzie, kiedy i dlaczego. Firmy powinny zatem skupić się na wykorzystaniu odpowiedniej platformy danych oferującej zaawansowane technologie AI, która usprawni zarządzanie metadanymi w celu transparentnej klasyfikacji informacji generowanych przez sztuczną inteligencję. Platforma taka musi być w pełni audytowalna, skalowalna i oparta na regułach, a także zaprojektowana z myślą o przyszłości danych, wbudowanej w mechanizmy sztucznej inteligencji.
Źródło: Badanie Progress „Data Bias: The Hidden Risk of AI”
