Modele zewnętrzne a DPIA – czy bez pełnej wiedzy o AI da się ocenić ryzyko?
ODPOWIEDŹ
Wiedza o modelu
Już teraz większość modeli jest dostarczana razem z dokumentacją (tzw. model card). Choć zwykle nie daje nam ona pełnego obrazu sytuacji.
Po części AI Act da nam narzędzia do otrzymywania najważniejszych informacji o modelu (architektura, sposób trenowania, kwestie danych osobowych i prawa autorskiego).
W przypadku modeli otwartoźródłowych z otwartymi wagami możemy samodzielnie uzyskać bardzo dużo informacji o modelu. Wiele modeli otwartoźródłowych nie przekazują jednak informacji np. o źródle danych treningowych.
Przykłady modeli open-source zgodnych z definicją Open Source Initiative: Pythia (Eleuther AI), OLMo (AI2), Amber i CrystalCoder (LLM360), T5 (Google). Są to modeli z otwartymi wagami i zbiorem treningowym.
DPIA
Nie musimy znać wszystkich parametrów, aby ocenić ryzyko, ale jeśli nie możemy przeprowadzić adekwatnego due-diligence modelu, to nie powinniśmy z takiego modelu korzystać.
W innych przypadkach rzetelne DPIA jest możliwe. Konieczna jest jednak multidyscyplinarna współpraca w ramach organizacji wdrażającej lub budującej model.
