Słownik AI
Audyt AI
audyt systemu AI, przegląd AI
Audyt AI to uporządkowany przegląd systemu AI: jego danych, działania, ryzyk i zgodności z przyjętymi zasadami. Sprawdza, czy model robi to, co deklarowano, i dostarcza dowodów na potrzeby nadzoru.
- Bada dane, działanie i decyzje modelu względem ustalonych wymogów i ryzyk.
- Kończy się dowodami: zapisami, wynikami testów i listą stwierdzonych braków.
- Powtarzany okresowo, bo model i dane zmieniają się w czasie.
Audyt AI to systematyczne sprawdzenie, czy system działa tak, jak zakładano, i mieści się w przyjętych zasadach. Przegląda dane wejściowe, sposób działania modelu, podejmowane decyzje oraz ryzyka, na przykład stronniczość wyników czy przetwarzanie danych wrażliwych. Celem jest rzetelny obraz stanu, a nie deklaracja.
Audyt różni się od oceny jakości modelu szerszym zakresem: obejmuje proces, role i zgodność, nie tylko trafność odpowiedzi. Daje nadzorowi nad AI dowody, że reguły są przestrzegane. Ponieważ system i dane się zmieniają, audyt powtarza się okresowo, a nie jednorazowo.
Powiązane pojęcia
W przewodnikach
Powiązane artykuły