Modele zewnętrzne a DPIA – czy bez pełnej wiedzy o AI da się ocenić ryzyko?

ODPOWIEDŹ

Wiedza o modelu

Już teraz większość modeli jest dostarczana razem z dokumentacją (tzw. model card). Choć zwykle nie daje nam ona pełnego obrazu sytuacji.

Po części AI Act da nam narzędzia do otrzymywania najważniejszych informacji o modelu (architektura, sposób trenowania, kwestie danych osobowych i prawa autorskiego).

W przypadku modeli otwartoźródłowych z otwartymi wagami możemy samodzielnie uzyskać bardzo dużo informacji o modelu. Wiele modeli otwartoźródłowych nie przekazują jednak informacji np. o źródle danych treningowych.

Przykłady modeli open-source zgodnych z definicją Open Source Initiative: Pythia (Eleuther AI), OLMo (AI2), Amber i CrystalCoder (LLM360), T5 (Google). Są to modeli z otwartymi wagami i zbiorem treningowym. 

DPIA

Nie musimy znać wszystkich parametrów, aby ocenić ryzyko, ale jeśli nie możemy przeprowadzić adekwatnego due-diligence modelu, to nie powinniśmy z takiego modelu korzystać.

W innych przypadkach rzetelne DPIA jest możliwe. Konieczna jest jednak multidyscyplinarna współpraca w ramach organizacji wdrażającej lub budującej model.