FTC warnt vor dem Einsatz von KI in Unternehmen

Die Federal Trade Commission (FTC) hat einen Bericht an den Kongress herausgegeben, in dem sie vor dem Einsatz von KI zur Bekämpfung von Online-Problemen warnt und die politischen Entscheidungsträger auffordert, “große Vorsicht” walten zu lassen, wenn es darum geht, sie als politische Lösung einzusetzen. In dem Bericht werden erhebliche Bedenken geäußert, dass KI-Tools von vornherein ungenau, voreingenommen und diskriminierend sein können und Anreize für immer invasivere Formen der kommerziellen Überwachung bieten.

Im Jahr 2021 hat die FTC damit begonnen zu untersuchen, wie KI eingesetzt werden kann, um verschiedene Cyber- und physische Risiken zu identifizieren, zu beseitigen oder andere geeignete Maßnahmen zu ergreifen. Zu den Schäden von besonderem Interesse gehören Online-Betrug, Betrug durch Identitätswechsel, gefälschte Bewertungen und Konten, Bots, Medienmanipulation, illegale Drogenverkäufe und andere illegale Aktivitäten, sexuelle Ausbeutung, Hassverbrechen, Online-Belästigung und Cyberstalking sowie Fehlinformationskampagnen mit dem Ziel, Wahlen zu beeinflussen.

Risiken der KI-Nutzung

In dem Bericht werden Probleme im Zusammenhang mit dem Einsatz von KI-gestützten Werkzeugen aufgezeigt. Die Erkennungsmöglichkeiten von KI in Bezug auf Online-Schäden sind durch inhärente Konstruktionsfehler wie nicht repräsentative Datensätze, fehlerhafte Klassifizierungen, das Versagen bei der Erkennung neuer Phänomene und das Fehlen von Kontext und Bedeutung erheblich eingeschränkt.

KI-Tools können die Voreingenommenheit ihrer Entwickler widerspiegeln, was zu fehlerhaften und potenziell illegalen Ergebnissen führt. In dem Bericht wird analysiert, warum KI-Tools unfaire oder voreingenommene Ergebnisse liefern. Er enthält auch Beispiele für Fälle, in denen KI-Tools zur Diskriminierung geschützter Personengruppen führten oder Inhalte in einer Weise überblockten, die das Recht auf freie Meinungsäußerung einschränken kann.

KI-Tools können Anreize für invasive kommerzielle Überwachungs- und Datenextraktionspraktiken bieten und diese ermöglichen, da für die Entwicklung, das Training und die Nutzung dieser Technologien große Datenmengen erforderlich sind. Darüber hinaus kann die Verbesserung der Genauigkeit und Leistung von KI-Tools zu noch invasiveren Formen der Überwachung führen.