Słownik AI
Prywatność danych w AI
ochrona danych w AI, poufność danych AI
Prywatność danych w AI to zasady i środki chroniące dane osobowe oraz poufne na każdym etapie pracy z modelem: w treningu, w zapytaniach i w odpowiedziach. Określa, co wolno przekazać modelowi i jak długo jest to przechowywane.
- Dotyczy danych w treningu, w zapytaniach do modelu i w jego odpowiedziach.
- Kluczowe pytania: co trafia do modelu, czy służy do dalszego trenowania i jak długo jest przechowywane.
- Środki obejmują minimalizację danych, anonimizację, kontrolę dostępu i jasne reguły retencji.
Prywatność danych w AI dotyczy ochrony danych osobowych i poufnych w całym kontakcie z modelem. Ryzyko pojawia się w trzech miejscach: w danych treningowych, w treści zapytań wysyłanych do modelu oraz w jego odpowiedziach, które mogą ujawnić informacje, jakich nie powinny zawierać.
W praktyce trzeba odpowiedzieć na konkretne pytania: jakie dane w ogóle trafiają do modelu, czy dostawca używa ich do dalszego trenowania i jak długo je przechowuje. Stosuje się minimalizację danych, anonimizację, kontrolę dostępu i reguły retencji. Te ustalenia są częścią nadzoru nad AI i podlegają sprawdzeniu podczas audytu.
Powiązane pojęcia
W przewodnikach