Sztuczna inteligencja w Twojej organizacji: jak wykorzystać jej potencjał, nie tracąc z oczu zagrożeń
Sztuczna inteligencja (AI) nie jest już odległą innowacją. Prawdopodobnie już z niej korzystasz – świadomie lub nie. Od zautomatyzowanej obsługi klienta po podejmowanie decyzji w służbie zdrowia i usługach finansowych, AI jest coraz bardziej obecne w codziennych operacjach biznesowych.
Korzyści są oczywiste: usprawnienie procesów, lepszy wgląd w duże zbiory danych i wsparcie w podejmowaniu złożonych decyzji. Jednak wraz z rosnącą popularnością AI rośnie również świadomość, że pozostawiona bez kontroli może narazić organizację na poważne ryzyko.
Co się stanie, gdy algorytm popełni błąd? Kto ponosi odpowiedzialność, gdy model AI spowoduje niezamierzoną szkodę? Jak mieć pewność, że systemy AI spełniają wymogi prawne i oczekiwania opinii publicznej?
Kiedy AI staje się zagrożeniem
Bez odpowiedniej struktury i nadzoru systemy AI mogą prowadzić do niesprawiedliwych, niewiarygodnych, a nawet szkodliwych wyników. Dwa przykłady z życia pokazują, jak szybko może dojść do niepożądanych skutków:
1. Dyskryminacja w rekrutacji
Globalna firma technologiczna wdraża AI do selekcji kandydatów do pracy. Narzędzie analizuje CV, porównuje je z historycznymi danymi dotyczącymi zatrudnienia i automatycznie tworzy listę kandydatów. Jednak dane szkoleniowe pochodzą z okresu, w którym większość zatrudnionych osób stanowiły mężczyźni.
W rezultacie sztuczna inteligencja „uczy się” preferować profile mężczyzn, systematycznie oceniając kobiety i kandydatów z mniejszości niżej. Ponieważ proces jest w pełni zautomatyzowany, tendencyjność ta pozostaje niezauważona przez wiele miesięcy. Staje się widoczna dopiero wtedy, gdy pojawiają się obawy dotyczące braku różnorodności wśród nowych pracowników.
Konsekwencje są poważne: utrata talentów, uszczerbek na reputacji firmy i utrata zaufania do procesu rekrutacji. Firma jest zmuszona do przeprowadzenia audytu swojego systemu, ponownego przeszkolenia modelu sztucznej inteligencji i wprowadzenia dodatkowego nadzoru – zakłócenia, którego można było uniknąć dzięki bardziej ustrukturyzowanemu podejściu.
2. Niezamierzone uprzedzenia w ocenie zdolności kredytowej
Instytucja finansowa wdraża sztuczną inteligencję w celu automatyzacji procesu zatwierdzania kredytów. System wykorzystuje setki zmiennych – od historii kredytowej po zachowania w Internecie – do oceny ryzyka. Jednak algorytm uwzględnia dane dotyczące kodu pocztowego, co nieumyślnie wprowadza dyskryminację geograficzną.
Z czasem wnioskodawcy z niektórych dzielnic otrzymują systematycznie niższe oceny lub wyższe oprocentowanie, nawet jeśli spełniają wszystkie kryteria finansowe. Klienci są sfrustrowani, a pracownicy nie potrafią wyjaśnić podjętych decyzji. Liczba skarg rośnie.
Niezależna kontrola ujawnia, że system AI przejął i wzmocnił historyczne wzorce bez uwzględnienia kontekstu. Bank musi tymczasowo zawiesić działanie narzędzia i odpowiedzieć na pytania organów regulacyjnych dotyczące przejrzystości i uczciwego wykorzystania AI.
Jak przejąć kontrolę dzięki odpowiedniej strukturze
Przykłady te nie wynikają ze złych intencji – pojawiają się one w przypadku braku zarządzania, niejasnych obowiązków i niewystarczających kontroli. W tym miejscu pojawia się nowa międzynarodowa norma ISO/IEC 42001.
Jest to pierwsza norma dotycząca systemu zarządzania odpowiedzialną sztuczną inteligencją, opracowana w celu pomocy organizacjom w strukturyzowaniu, monitorowaniu i zarządzaniu rozwojem i wykorzystaniem systemów sztucznej inteligencji.
Norma wspiera organizację w tworzeniu procesów i polityk dotyczących:
- jakością i reprezentacją danych
- monitorowania i ciągłego doskonalenia wydajności AI
- jasnych ról, obowiązków i wewnętrznego zarządzania
- wyjaśnialności i odpowiedzialności za decyzje generowane przez AI
Norma ISO/IEC 42001 jest zgodna z innymi dobrze znanymi normami, takimi jak ISO 9001 i ISO 27001. Jeśli Twoja organizacja już korzysta ze zintegrowanego systemu zarządzania, wdrożenie normy jest proste.
Norma pomaga również wyprzedzić zaostrzające się przepisy, takie jak unijna ustawa o sztucznej inteligencji, która weszła w życie w 2024 r. Określa ona jasne oczekiwania dotyczące zarządzania ryzykiem, nadzoru ludzkiego i przejrzystości zastosowań sztucznej inteligencji.
Wiedza jest kluczem do odpowiedzialnego użytkowania
Norma działa tylko wtedy, gdy pracownicy wiedzą, jak ją stosować. Czy Twoje zespoły rozumieją, na czym polega norma ISO/IEC 42001? Czy potrafią przełożyć wymagania na codzienną praktykę?
LRQA oferuje praktyczne, ukierunkowane szkolenia dostosowane do różnych ról – od IT i prawa po zgodność, audyt i strategię. Nasze sesje pomagają pracownikom wyjść poza teorię i wdrożyć odpowiedzialne zarządzanie AI w całej organizacji.
W ten sposób AI staje się nie tylko innowacyjne, ale także zrozumiałe, bezpieczne i zgodne z oczekiwaniami interesariuszy.
Zacznij odpowiedzialnie zarządzać AI już dziś
AI będzie odgrywać coraz większą rolę w działalności Twojej firmy. Inwestując teraz w wiedzę, strukturę i zarządzanie, budujesz zaufanie klientów, partnerów i organów regulacyjnych.
