AI Act: badanie zgodności i bieżące doradztwo

Na czym polega problem

Trzy pytania, na które większość organizacji nie zna odpowiedzi

Pierwsze: które z używanych narzędzi są „systemem AI” w rozumieniu art. 3 pkt 1 rozporządzenia. Odpowiedź rzadko pokrywa się z tym, co producent napisał w materiałach handlowych. Zwykłe reguły decyzyjne bywają sprzedawane jako sztuczna inteligencja, a realne systemy uczące się kryją się w modułach, o których nikt nie pomyślał.

Drugie: czy któreś z zastosowań mieści się w katalogu zakazanych praktyk z art. 5 albo wśród systemów wysokiego ryzyka z art. 6. Katalog zakazów obejmuje między innymi techniki podprogowe i manipulacyjne prowadzące do istotnej zmiany zachowania. Brzmi odlegle, dopóki nie przyjrzeć się mechanizmom personalizacji w systemach sprzedażowych.

Trzecie: kto w organizacji odpowiada za system AI po stronie dostawcy, a kto po stronie podmiotu stosującego. Role z rozporządzenia rozkładają obowiązki asymetrycznie, a umowy zawarte przed 2024 rokiem zwykle o nich milczą.

Jak pracujemy

Badanie AI w pięciu etapach

Pierwszy etap zamyka kwestię kwalifikacji i zakazanych praktyk. Kolejne uruchamiamy tylko wtedy, gdy wynik pierwszego tego wymaga, bo nie ma sensu badać zarządzania ryzykiem w systemie, który systemem AI nie jest.

Metodyka

Jak przebiega samo badanie

Badanie prowadzimy według własnej, rozwijanej metodyki, tej samej, na której opieramy audyty RODO. Sześć faz: inicjacja z uzgodnieniem celu i kryteriów, przygotowanie planu oraz list kontrolnych, przeprowadzenie badania, raport, formalne zamknięcie i wsparcie po badaniu.

Informacje pozyskujemy z przeglądu dokumentacji, wywiadów z pracownikami, oględzin urządzeń i systemów oraz obserwacji procesów. Po każdym spotkaniu uczestnik dostaje spisane ustalenia do potwierdzenia, więc nikt nie dowiaduje się z raportu, że powiedział coś, czego nie powiedział.