Categories: KI

FTC warnt vor dem Einsatz von KI in Unternehmen

Die Federal Trade Commission (FTC) hat einen Bericht an den Kongress herausgegeben, in dem sie vor dem Einsatz von KI zur Bekämpfung von Online-Problemen warnt und die politischen Entscheidungsträger auffordert, “große Vorsicht” walten zu lassen, wenn es darum geht, sie als politische Lösung einzusetzen. In dem Bericht werden erhebliche Bedenken geäußert, dass KI-Tools von vornherein ungenau, voreingenommen und diskriminierend sein können und Anreize für immer invasivere Formen der kommerziellen Überwachung bieten.

Im Jahr 2021 hat die FTC damit begonnen zu untersuchen, wie KI eingesetzt werden kann, um verschiedene Cyber- und physische Risiken zu identifizieren, zu beseitigen oder andere geeignete Maßnahmen zu ergreifen. Zu den Schäden von besonderem Interesse gehören Online-Betrug, Betrug durch Identitätswechsel, gefälschte Bewertungen und Konten, Bots, Medienmanipulation, illegale Drogenverkäufe und andere illegale Aktivitäten, sexuelle Ausbeutung, Hassverbrechen, Online-Belästigung und Cyberstalking sowie Fehlinformationskampagnen mit dem Ziel, Wahlen zu beeinflussen.

Risiken der KI-Nutzung

In dem Bericht werden Probleme im Zusammenhang mit dem Einsatz von KI-gestützten Werkzeugen aufgezeigt. Die Erkennungsmöglichkeiten von KI in Bezug auf Online-Schäden sind durch inhärente Konstruktionsfehler wie nicht repräsentative Datensätze, fehlerhafte Klassifizierungen, das Versagen bei der Erkennung neuer Phänomene und das Fehlen von Kontext und Bedeutung erheblich eingeschränkt.

KI-Tools können die Voreingenommenheit ihrer Entwickler widerspiegeln, was zu fehlerhaften und potenziell illegalen Ergebnissen führt. In dem Bericht wird analysiert, warum KI-Tools unfaire oder voreingenommene Ergebnisse liefern. Er enthält auch Beispiele für Fälle, in denen KI-Tools zur Diskriminierung geschützter Personengruppen führten oder Inhalte in einer Weise überblockten, die das Recht auf freie Meinungsäußerung einschränken kann.

KI-Tools können Anreize für invasive kommerzielle Überwachungs- und Datenextraktionspraktiken bieten und diese ermöglichen, da für die Entwicklung, das Training und die Nutzung dieser Technologien große Datenmengen erforderlich sind. Darüber hinaus kann die Verbesserung der Genauigkeit und Leistung von KI-Tools zu noch invasiveren Formen der Überwachung führen.

Roger Homrich

Recent Posts

GenKI verbessert Datenmanagement und Angebotsgenauigkeit

DHL Supply Chain nutzt generative KI-Anwendungen für Datenbereinigung und präzisere Beantwortung von Angebotsanforderungen (RFQ).

1 Minute ago

Rolls-Royce Power Systems nutzt industrielle KI aus der IFS Cloud​

Marke mtu will globale Serviceabläufe optimieren und strategische Ziele hinsichtlich Effizienz, Nachhaltigkeit und Wachstum unterstützen.

10 Minuten ago

Thomas-Krenn.AG: viele Pflichten, knappe Ressourcen, mehr freie IT-Welt

IT-Infrastruktur-Trends 2025: Open-Source-Projekte sowie aufwändige regulatorische und Pflichtaufgaben werden das Jahr prägen.

36 Minuten ago

KI im SEO: So erzielen Sie optimale Ergebnisse

Künstliche Intelligenz gewinnt im Bereich der Suchmaschinenoptimierung zunehmend an Bedeutung. Durch Technologien, die menschliches Verhalten…

3 Stunden ago

Stadt Kempen nutzt Onsite Colocation-Lösung

IT-Systeme werden vor Ort in einem hochsicheren IT-Safe betrieben, ohne auf bauliche Maßnahmen wie die…

1 Tag ago

SoftwareOne: Cloud-Technologie wird sich von Grund auf verändern

Cloud-Trends 2025: Zahlreiche neue Technologien erweitern die Grenzen von Cloud Computing.

1 Tag ago