Categories: KI

FTC warnt vor dem Einsatz von KI in Unternehmen

Die Federal Trade Commission (FTC) hat einen Bericht an den Kongress herausgegeben, in dem sie vor dem Einsatz von KI zur Bekämpfung von Online-Problemen warnt und die politischen Entscheidungsträger auffordert, “große Vorsicht” walten zu lassen, wenn es darum geht, sie als politische Lösung einzusetzen. In dem Bericht werden erhebliche Bedenken geäußert, dass KI-Tools von vornherein ungenau, voreingenommen und diskriminierend sein können und Anreize für immer invasivere Formen der kommerziellen Überwachung bieten.

Im Jahr 2021 hat die FTC damit begonnen zu untersuchen, wie KI eingesetzt werden kann, um verschiedene Cyber- und physische Risiken zu identifizieren, zu beseitigen oder andere geeignete Maßnahmen zu ergreifen. Zu den Schäden von besonderem Interesse gehören Online-Betrug, Betrug durch Identitätswechsel, gefälschte Bewertungen und Konten, Bots, Medienmanipulation, illegale Drogenverkäufe und andere illegale Aktivitäten, sexuelle Ausbeutung, Hassverbrechen, Online-Belästigung und Cyberstalking sowie Fehlinformationskampagnen mit dem Ziel, Wahlen zu beeinflussen.

Risiken der KI-Nutzung

In dem Bericht werden Probleme im Zusammenhang mit dem Einsatz von KI-gestützten Werkzeugen aufgezeigt. Die Erkennungsmöglichkeiten von KI in Bezug auf Online-Schäden sind durch inhärente Konstruktionsfehler wie nicht repräsentative Datensätze, fehlerhafte Klassifizierungen, das Versagen bei der Erkennung neuer Phänomene und das Fehlen von Kontext und Bedeutung erheblich eingeschränkt.

KI-Tools können die Voreingenommenheit ihrer Entwickler widerspiegeln, was zu fehlerhaften und potenziell illegalen Ergebnissen führt. In dem Bericht wird analysiert, warum KI-Tools unfaire oder voreingenommene Ergebnisse liefern. Er enthält auch Beispiele für Fälle, in denen KI-Tools zur Diskriminierung geschützter Personengruppen führten oder Inhalte in einer Weise überblockten, die das Recht auf freie Meinungsäußerung einschränken kann.

KI-Tools können Anreize für invasive kommerzielle Überwachungs- und Datenextraktionspraktiken bieten und diese ermöglichen, da für die Entwicklung, das Training und die Nutzung dieser Technologien große Datenmengen erforderlich sind. Darüber hinaus kann die Verbesserung der Genauigkeit und Leistung von KI-Tools zu noch invasiveren Formen der Überwachung führen.

Roger Homrich

Recent Posts

Bosch plant Milliardengeschäft mit Fabriksoftware

Anlässlich der bevorstehenden Hannovermesse gibt das Technologieunternehmen Einblicke in den Ausbau seines Industrie 4.0-Portfolios.

1 Stunde ago

Rechnet sich Hardware-Produktion in Deutschland?

„Wer es richtig macht, kann auch mit den hiesigen Rahmenbedingungen erfolgreich sein“, sagt Christian Herzog,…

19 Stunden ago

Quantencomputer: Die (noch) unterschätzte Gefahr

Für Unternehmen birgt Quantencomputing unbekannte Gefahren für die eigene Cybersicherheit, warnt Dr. Raphaela Schätz von…

20 Stunden ago

Background: Air Gaps als effektive Strategie für Datensicherheit?

Wie eine abgestufte Backup-Architektur mit Datenbunkern langfristige, hochverfügbare Speicher ermöglicht.

2 Tagen ago

Passwörter adé: Sicherheitsarchitektur ohne Schwachstellen

Die passwortlose Authentifizierung stellt den klassischen Ansatz der Verwendung von Passwörtern in Frage, sagt Dirk…

3 Tagen ago

SIGNAL IDUNA integriert KI in Kundenservice

Generativer Wissensassistent für die KV soll Mitarbeitende im Kundenservice signifikant entlasten und mehr Zeit für…

4 Tagen ago