Gefahren von KI I

Beim Einsatz von KI-Anwendungen besteht zunächst die Gefahr, dass sensible Informationen verarbeitet werden und die Verarbeitung unkontrolliert erfolgt.

Davon betroffen sein können z.B. personenbezogene Daten oder sicherheitsrelevante Informationen wie interne Computer-Adressen, aber auch interne Finanzzahlen. Bei der Bedienung von Chat-Bots können Namen und Anschriften oder etwa Gesundheitsdaten mit Personenbezug in die KI-Anwendung eingegeben werden. Wo die Verarbeitung durch die KI-Anwendung erfolgt, ob die Daten bei der Verarbeitung sicher sind und nicht auch Dritten zugänglich gemacht werden, ist nicht immer garantiert. Kostenfreie Angebote, gelegentlich auch kostenpflichtige, verlangen in ihren Nutzungsbedingungen häufig, dass die eingebenen Informationen für Zwecke des Anbieters verwendet werden dürfen. Hier bestehen erhebliche Missbrauchsrisiken, die manchmal nur schwer zu beherrschen sind.

Dazu kommt die Gefahr, dass schon für das Trainieren der KI-Anwendung Informationen verwendet werden, die für diese Zwecke nicht zugelassen sind. Auch hier können personenbezogene Daten oder sicherheitssensible Informationen betroffen sein. Schließlich darf urheberrechtlich geschütztes Material nicht für Trainingszwecke der KI verwendet werden.