Zentrum für Digitalrechte und Demokratie initiiert Regelungsvorhaben zum Schutz vor Companion-AI-Risiken gegenüber dem Deutschen Bundestag und der Bundesregierung; potenzielle Gesetzesanpassungen gegen Companion AI
Lobbyregister - Regelungsvorhaben - Detailansicht für RV0024381 30.07.2026 10:09:05
Seite 1 von 2
R007920/RV0024381 – Detailansicht des Regelungsvorhabens vom 30.07.2026 um 10:09 Uhr
Lobbyregister für die Interessenvertretung gegenüber dem Deutschen Bundestag und der Bundesregierung Detailansicht des Regelungsvorhabens Schutz vor den psychologischen und gesellschaftlichen Risiken von suchtfördernden und sykophantischen KI- Systemen (Companion AI) Aktuell seit 30.07.2026 10:09:05 Angegeben von: am 13.05.2026
Zentrum für Digitalrechte und Demokratie (R007920) Beschreibung: KI-Systeme, die im fortlaufenden Dialog mit Nutzern Emotionen erkennen, persönliche Bedürfnisse adressieren und darauf reagieren, werden als Companion-AI bezeichnet. Dies kann eine Funktion allgemeiner Sprachmodelle oder spezieller Apps sein. Die Bindung von Nutzenden durch Sykophanz (Gefälligkeit), emotionale Bindung, Simulation eines menschlichen Gegenübers und suchterzeugende Praktiken birgt eine Reihe von Risiken für die psychische und physische Gesundheit, die Privatsphäre und die Entscheidungsautonomie. Wir fordern eine Reihe von Gesetzesanpassungen, die dieses Problem adressieren. Betroffene Interessenbereiche (6)
Datenschutz und Informationssicherheit [alle RV hierzu]
Digitalisierung [alle RV hierzu]
Internetpolitik [alle RV hierzu]
Sonstiges im Bereich “Medien, Kommunikation und Informationstechnik” [alle RV hierzu]
Verbraucherschutz [alle RV hierzu]
Werbung [alle RV hierzu] Betroffene Bundesgesetze (2)
DDG [alle RV hierzu]
UWG 2004 [alle RV hierzu]
Seite 2 von 2
R007920/RV0024381 – Detailansicht des Regelungsvorhabens vom 30.07.2026 um 10:09 Uhr
Zu diesem RV abgegebene grundlegende Stellungnahmen/Gutachten (1) ( )
SG2605220004 PDF - 4 Seiten Adressatenkreis: Versendet am 19.05.2026 an: Bundestag Fraktionen/Gruppen [alle SG dorthin] Mitglieder des Bundestages [alle SG dorthin] Bundesregierung Bundesministerium für Digitalisierung und Staatsmodernisierung (BMDS) [alle SG dorthin]