Im Folgenden sind alle im Film gezeigten wissenschaftlichen Quellen mit Zeitangabe aufgeführt. Darüber hinaus bietet die Seite zu Vertiefungszwecken weiterführende Literatur, ausgewählte Websites, die im Film gezeigt oder genannt werden sowie ausgewählte Quellen, die in die Recherche des Films eingegangen sind. Ein ausführliches Verzeichnis aller im Film gezeigten Webquellen ist hier aufgeführt:

Anschließend werden weitere Literaturhinweise gegeben, in denen vor allem näher auf die Hintergrundrecherche bezüglich des Kurzclips zu der Einordnung von SmartHomes und IoT als auch der Animation zu SmartSpeakern eingegangen wird. Unter folgenden Abschnitten werden weitere Literaturhinweise gegeben:

Weiterführende Literaturhinweise
Begriffseinführung
Digitale Teilhabe
Partnerschaftliche Gewalt
Ethische Aspekte
Datenschutz/Sicherheit
IoT & Generative KI
Wirtschaftlichkeit und Nutzung
Politische Debatten

Teil I: IoT & SmartSpeaker

Digitale Apparate, die miteinander vernetzt werden, um sich gegenseitig zu ergänzen oder zentral steuern zu lassen, bilden das sogenannte Internet of Things. Als Interface zwischen Menschen und Apparaten werden meist Sprachassistenzen genutzt, durch die die Bedienung gewöhnlicher Geräte emotionalisiert oder vereinfacht werden soll. Insbesondere SmartSpeaker sind inzwischen weit verbreitet.

Smarte Geräte dringen weit in private Lebensbereiche vor – und mit ihnen global agierende Technologiekonzerne und ihre teils undurchsichtigen Monetarisierungsstrategien. Je weiter sich diese Technologien mit unserem Lebensalltag verbinden, desto wichtiger ist es, die Kontrolle über sie zu behalten. Das ist angesichts ihrer hohen Komplexität und Vielfältigkeit, ihrer Intransparenz und ihres schnellen Wandels allerdings alles andere als einfach…

Sequenz ab 01:04 :

Bergmeister, Astrid: Alexa trifft Altenheim – Wie stehen Pflegekräfte zum Einsatz von Smart Speakern [2024]? In: Informationsdienst Wissenschaft.
[link]
Sinha, Satyajit: State of loT 2024: Number of connected loT devices growing 13% to 18.8 billion globally [2024]. In: iot analytics.
[link]
o.A.: The Smart Audio Report. In: npm. 2022.
[link]
Tenzer, F.: Anteil der Haushalte in Deutschland, in denen es einen Smart Speaker gibt, von 2018 bis 2021 [2025]. In statista.
[link]
o.A.: Kritik an möglichem Daten-Zugriff auf Smart-Home-Geräte hält an [2019]. In: heise online.
[link]
Mackowski, Martin/Carrillo, Pablo/Jacobson, Julia: Trump’s AI Policy Shift Promotes US Dominance and Deregulation [2025]. In: Bloomberg Law.
[link]
o.A.: Amazon-Chef Bezos sucht Nähe zu Trump [2024]. In: tagesschau.
[link]
Swenson, Ali: Trump, a populist president, is flanked by tech billionaires at his inauguration [2025]. In: AP.
[link]

Sequenz ab 14:39 :

Edwards, Tanya: Airbnb bans indoor cameras: What guests and hosts need to know before booking [2024]. In: bbc.
[link]

Teil II: IoT & Partnerschaftsgewalt

IoT-Geräte basieren allgemein meist auf der Annahme, dass sich alle Personen in einem SmartHome gegenseitig vertrauen und die Technologie gleichberechtigt nutzen. Tatsächlich werden einzelne Personen jedoch oft von wichtigen Nutzungsbedingungen digitaler Technologien ausgeschlossen. Insbesondere im Bereich der psychischen Gewalt spielen digitale Technologien eine zunehmende Rolle.

Die Technologien können so zu einer Digitalisierung von Machtverhältnissen in Partnerschaften führen. Dabei setzen sie Gewaltpraktiken nicht einfach mit digitalen Mitteln fort, sondern führen zu einer paradigmatischen Verschiebung von Tat- und Leidensmustern.

Sollten Sie von Gewalt betroffen sein, erhalten Sie kostenfrei und anonym Hilfe:
Das Hilfetelefon „Gewalt gegen Frauen“ erreichen Sie unter 08000/116016,
das Hilfetelefon „Gewalt an Männern“ unter 0800/123 9900.
Beide Hilfetelefone beraten kostenfrei und anonym.

Sequenz ab 15:25 :

o.A.: Gewalt gegen Frauen [2024]. In: Bundesministerium des Innern.
[link]

Sequenz ab 17:08 :

Douglas, Heather/Harris, Bridget A./Dragiewicz, Molly: Technology-facilitated Domestic and Family Violence: Women’s Experiences. In: The British Journal of Criminology, 59(3) 2019, S. 551–570.
[link]
Dragiewicz, Molly/Burgess, Jean/Matamoros-Fernández, Ariadna/Salter, Michael/Suzor, Nicolas P./Woodlock, Delanie/Harris, Bridget: Technology facilitated coercive control: Domestic violence and the competing roles of digital media platforms. In: Feminist Media Studies, 18(4) 2018, S. 609–625.
[link]
Rogers, Michaela M./Fisher, Colleen/Ali, Parveen/Allmark, Peter/Fontes, Lisa: Technology-Facilitated Abuse in Intimate Relationships: A Scoping Review. In: Trauma, Violence, & Abuse, 24(4) 2023, S. 2210–2226.
[link]

Teil III: IoT & Handlungsträgerschaft

Vor allem durch starke Verzerrungen in den Daten, die für das Training von Sprachmodellen verwendet werden, aber auch über Vorurteile und fehlende Diversität in den Entwicklerfirmen können diskriminierende Aspekte in die Antwortmuster reaktiver oder lernender Systemen eingeschrieben werden, die sich dann auch in die Praxis zwischen Menschen und technischen Systemen übertragen. Es wird so eine gegenseitige Beeinflussung zwischen Menschen und Maschinen durch eine gemeinsame Interaktionspraxis vorstellbar.

Es lässt sich von einer regelrechten Sozialisation anpassungsfähiger Algorithmen sprechen. In Bezug auf digitale Gewaltpraxen drängt sich dabei die Frage auf, welche Personen in einem Haushalt die Maschinen sozialisieren. Werden die Apparate zu interaktiven Archiven von Gewaltmustern?

Sequenz ab 22:30 :

Haraway, Donna/Hammer, Carmen (Hg.)/Stieß, Immanuel (Hg.).: Die Neuerfindung der Natur: Primaten, Cyborgs und Frauen. Frankfurt (Main)/New York, 1995.
Amoore, Lisa: Cloud Ethics. Durham/New York, 2020.
Habscheid, Stephan/Hector, Tim/Hoffmann, Dagmar/Waldecker, David (Hg.): Voice Assistants in Private Homes. Media, Data and Language in Interaction and Discourse. Bielefeld, 2025.
[link]

Sequenz ab 25:07 :

Penny, Laurie: Why do we give robots female names? Because we don’t want to consider their feelings [2016]. In: The New Statesman.
[link]
Rekabsaz, Navid/Schedl, Markus: Do Neural Ranking Models Intensify Gender Bias? In: Huang, Jimmy/Chang, Yi/Cheng, Xueqi (Hg): SIGIR ’20: Proceedings of the 43rd International ACM SIGIR Conference on Research and Development in Information Retrieval. New York, 2020, S. 2065-2068.
[link]

Sequenz ab 26:47 :

Waldmann, Maximilian: Kritische Medienbildung. Eine Einführung in Macht-, Herrschafts- und Ungleichheitsverhältnisse digitaler Kultur. Opladen/Toronto, 2024.
[link]
Bedorf, Thomas/Gerlek, Selin/Schneider, Felix (Hg.): Phänomenologie (in) der digitalen Welt. In: Breyer, Thimo/Römer, Inga/Summa, Michaela: Phänomenologische Forschungen. (2) 2024.
[link]
Bedorf, Thomas/Risthaus, Peter (Hg.): Digitale Hermeneutik: Maschinen – Verfahren – Sinn. In: Eickelmann, Jennifer/Köppert, Katrin/Risthaus, Peter/Sprenger, Florian (Hg.): Digitale Kulturen. Band 2. Hagen 2024.
[link]
Gerlek, Selin/Kissler, Sarah/Mämecke, Thorben/Möbus, Dennis (Hg.): Von Menschen und Maschinen – Mensch-Maschine-Interaktionen in digitalen Kulturen. In: Eickelmann, Jennifer/Köppert, Katrin/Risthaus, Peter/Sprenger, Florian (Hg.): Digitale Kulturen. Band 1. Hagen 2022.
[link]

Sequenz ab 27:14 :

Airoldi, Massimo: Machine Habitus: Toward a Sociology of Algorithms. Cambridge, 2022.

Sequenz ab 28:07 :

Kneese, Tamara: Death Glitch. How Techno-Solutionism Fails Us in This Life and Beyond. Yale, 2023.

Teil IV: IoT & Selbstbestimmtheit

Im aktuellen Innovationssturm neuer IoT-Technologien gehen kritische Technologiereflektionen oft unter. Dabei hängen Grundsätze wie Kontrollmöglichkeiten, Selbstbestimmung und digitale Teilhabe sehr davon ab, dass diese Systeme verstanden und auf breiter gesellschaftlicher Ebene mitgestaltet werden können.

Sequenz ab 32:21 :

o.A.: Unblack the Box. Für einen (selbst)bewussten Umgang mit digitalen Datentechnologien in Bildungseinrichtungen [2019].
[link]
Ahmad, Lama/François, Camille/Gillespie, Tarleton/Vecchione, Briana/Blili-Hamelin, Borhane (Mod.): Red-teaming Generative AI Harm [2025]. In: Data & Society.
[link]
o.A.: Secure your tech.
[link]
Tanczer, Leonie/Lopez Neira, Isabel/Parkin, Simon/Patel, Trupti/Danezis, George: Gender and IoT Research Report. The rise of the Internet of Things and implications for technology-facilitated abuse. London, 2018.
[link]
o.A.: The Personalized Privacy Assistant Project.
[link]

Teil V: Big Tech und Zivilgesellschaft

Neben neuen Technologien kann auch die bestehende Infrastruktur aus vernetzten Geräten durch Softwareupdates zu anderen Zwecken genutzt werden. Tech-Konzerne können ihre Geschäftskultur zudem innerhalb weniger Tage grundlegend verändern. Technologie, die heute einem bestimmten Zweck dient, kann so morgen einem ganz anderen dienen.

Regulationsversuche wie der AI Act oder das Cyberresilienzgesetz etablieren sich nur langsam und können mit der rasanten Entwicklung von KI-Systemen aktuell noch nicht schritthalten. Es ist liegt daher an der Zivilgesellschaft, die Verbreitung von IoT-Apparaten und KI-Systemen aufmerksam und kritisch zu begleiten. In der Forschung und im Dialog.

Sequenz ab 36:19 :

Sparrow, Robert/Andrejevic, Mark/Harris Bridget: Should we embrace “Big Sister”? Smart speakers as a means to combat intimate partner violence. In: Ethics and Information Technology, 25(57) 2023.
[link]
o.A.: Cyber Resilience Act. Cybersicherheit EU-weit gedacht.
[link]

Weiterführende Literaturhinweise

Im folgenden wird näher auf die Hintergrundrecherche bezüglich des Kurzclips zu der Einordnung von SmartHomes und IoT sowie der Animation zu SmartSpeakern eingegangen, aber auch weitere Themen des Films werden näher beleuchtet. Es werden Grundlegende Informationen zu smarten Geräten, wie auch weiterführende Studien und Artikel zu ethischen Aspekten und das Thema betreffende Debatten aufgezeigt.

Begriffseinführung
Digitale Teilhabe
Partnerschaftliche Gewalt
Ethische Aspekte
Datenschutz/Sicherheit
IoT & Generative KI
Wirtschaftlichkeit und Nutzung
Politische Debatten

Begriffseinführung

Die begriffliche Vielfalt um das Thema IoT und Sprachassistenten ist bereits groß. Hinzu kommen neue Technologien aus dem Bereich der Künstlichen Intelligenz, die für zusätzliche Komplexität sorgen. Gerade die generative KI sorgt auch in diesem Bereich für neue Ansätze, Möglichkeiten und Risiken. Da an dieser Stelle mehr herausgestellt werden soll, was das besondere an dieser generativen KI ist, können zusätzlich die Empfehlungen aus Episode 1 zu diesem Thema als technischer Hintergrund zu KI allgemein hilfreich sein. Die folgenden Quellen können dabei helfen, ein grundlegendes Verständnis dieser Begriffe zu erhalten und erste Einblicke in das Themengebiet geben.

IoT

Babel, Wolfgang: Internet of Things und Industrie 4.0. Wiesbaden 2023.
Buch zur Einführung in die Geschichte von IoT, die Verbindung zu RFIDs und diverse Beispiele zu IoT/Industrie 4.0.
[link]
o.A.: Internet der Dinge. Wie Sie Ihr Smarthome sicher einrichten und worauf Sie bei smartem Spielzeug unbedingt achten sollten. In: Bundesamt für Sicherheit in der Informationstechnik.
Allgemeine Informationen zu IoT – insbesondere zum Thema Sicherheit (sowohl allgemeine Sicherheitshinweise wie Passwortsicherheit oder Netzwerkrisiken, aber auch Denkanstöße explizit auf die jeweiligen Geräte hin bezogen wie bspw. Sensorik).
[link]
Ashton, Kevin: That ‚Internet of Things‘ Thing. In the real world, things matter more than ideas. In: RFID Journal. 2010.
Vom selbst ernannten Begründer des Begriffs IoT. Ziel: „empower Computers“ die Welt wahrzunehmen um sie zu verändern.
[link]
Fleisch, Elgar/Thiesse, Frederic: Internet der Dinge. In: Enzyklopädie der Wirtschaftsinformatik.
Einführung aus wirtschaftswissenschaftlicher Sicht.
[link]

Sprachassistenten

o.A.: Sprachassistenten-Portal. In: Julius-Maximilians-Universität Würzburg.
Schematischer Überblick, der leicht verständlich ist und viele Schaubilder aufweist.
[link]
o.A.: Smart Speaker: So nutzen Sie den (Sprach-)Assistenten sicher. In: Bundesamt für Sicherheit in der Informationstechnik.
Einführung zu Sprachassistenten mit vielen allgemeinen Informationen vor allem auch die Sicherheit betreffend.
[link]
Taş, Serpil/Hildebrandt, Christian/Arnold, René: Sprachassistenten in Deutschland. In: WIK. (441) 2019.
Umfassende Einführung zu Sprachassistenten, sowie Forschungsstand, Sicherheitskriterien, Nutzendenanalyse und Auswirkungen.
[link]

generative KI

o.A.: Generative KI in 2 Minuten erklärt. In: KI-Campus.
Sehr kurze Erklärung zu generativer KI als Video.
[link]
Köllner, Christiane: Warum KI nicht gleich KI ist [2023]. In: SpringerProfessional.
Abgrenzung, inwiefern sich generative KI von prädiktiver unterscheidet.
[link]
Schlude, Antonia/Harles, Danilo/Stürz, Roland A./Stumpf, Christian: Verbreitung generativer KI im privaten und beruflichen Alltag 2024. In: bidt DE. 2024.
Anschauliche Studie auch zu dem Wissen von und Umgang mit dem rechtlichen Rahmen.
[link]
Agethen, Martin et al.: Leitfad Generative KI im Unternehmen. Rechtliche Fragen zum Einsatz generativer Künstlicher Intelligenz im Unternehmen. Berlin 2025.
Leitfaden für Unternehmen von bitkom. Enthalten sind unter anderem rechtliche wie auch ethische Aspekte. Dabei werden auch Grundlagen der Sicherheit behandelt.
[link]

Digitale Teilhabe

Durch die schnelle Verbreitung der Technologien stellt sich insbesondere die Frage der digitalen Teilhabe vor allem vulnerabler Gruppen. Es zeigen sich dabei neben den teilweise nicht einfach zu lösenden Risiken, dass die erhöhte Funktionalität eines SmartHomes und die starke Flexibilität der Eingabemöglichkeiten von beispielsweise Sprachassistenten einen breiten Möglichkeitshorizont eröffnet.

IoT

o.A.: Studie zur digitalen Teilhabe. In: DFA. 2025.
Studie zu digitaler Teilhabe und Digitalisierung in Deutschland von Initiative „Digital für alle“.
[link]
o.A.: Selbstbestimmt leben! Wie Smart Home – Technologien Menschen mit Behinderungen zu Hause unterstützen können [2022]. In: wissensdurstig.de.
Leitfaden zur Verwendung von Smart Home Möglichkeiten als Unterstützung bei Menschen mit verschiedenen Behinderungsarten.
[link]
Beier, Miachael: Smarthome – Intelligente Lösungen für ein barrierefreies und sicheres Zuhause [2025]. In: Pflege durch Angehörige.
Auflistung verschiedener Anwendungsgebiete und -möglichkeiten, die bei der Pflege zu Hause helfen können.
[link]
o.A.: Behinderten- und Erziehungshilfe: Smart Home und digitale Lösungen erkunden. Forschungsprojekt entwickelt Methodenkoffer [2024]. In: Nachrichten Informationsdienst Wissenschaften.
Forschungsprojekt um mehr digitale Teilhabe für stationär untergebrachte Jugendliche zu ermöglichen.
[link]

Sprachassistenten

o.A.: Future of Voice. Smart Speaker für Menschen mit Behinderung [2023]. In: SWR.
Artikel zu Unterstützung durch Sprachassistenten.
[link]
Edwards, Katie J. et al.: The Use of Smart Speakers in Care Home Residents: Implementation Study. In: Journal of Medical Internet Research, 23(12) 2021.
Untersuchung zu Nutzung in betreutem Wohnen (Care Home Residents) mit Nutzungsempfehlung.
[link]
Nazerian, Tina: Do Voice Assistant Devices Have a Place in the Classroom [2018]? In: EdSurge.
Analyse zu Nutzung von Sprachassistenten in der Schule.
[link]

Partnerschaftliche Gewalt

Direkt mit der digitalen Teilhabe ist die partnerschaftliche Gewalt verknüpft. Wissens- oder Zugangsgefälle bezüglich des SmartHomes kann vor allem psychische Gewalt in Partnerschaftsbeziehungen erweitern oder gar manifestieren. Da die Gewalt ohne die digitalen Geräte jedoch nicht ausbleibt und teilweise diffizil auftritt, ist die Untersuchung der Gemengelage nötig.

o.A.: Geschlechtsspezifisch gegen Frauen gerichtete Straftaten 2023. 2024.
Bundeslagebild des Bundeskriminalamtest.
[link]
Schröttle, Monika: Gewalt im Geschlechterverhältnis im engen sozialen Nahraum. 2024.
Analyse von Bedingungen, die Gewalt begünstigen und dabei unter anderem das Geschlechterverhältnis in den Blick nimmt.
[link]
o.A.: Monitor Gewalt gegen Frauen – Umsetzung der Istanbul-Konvention in Deutschland. Erster Periodischer Bericht. 2024.
Bericht über Maßnahmen in Deutschland zur Verhinderung von Gewalt und deren Nutzen.
[link]
o.A.: Bundesarbeitsgemeinschaft Täterarbeit Häusliche Gewalt e.V.
Webseite zur Prävention erneuter Gewaltausübung bei Tätern.
[link]

Gaslighting

80 Jahre „Gaslight“: Ein Thriller wird zum Psycho-Begriff [2024]. In: Die Zeit.
Artikel zur Wortherkunft des wissenschaftlichen Begriffs Gaslighting.
[link]
o.A.: Gaslighting. In: Psychology Today.
Psychologische Einordnung des Begriffs.
[link]
Lopes, Barbara/Jaspal, Rusi: Exposure to ghosting, gaslighting and coercion and mental health outcomes. 2025.
Studie zum Zusammenhang zwischen Ghosting, Gaslighting und Nötigung zu Depressionen und Paranoia.
[link]
Sweet, Paige L.: The Sociology of Gaslighting. American Sociological Review, 84(5) 2019, S. 851-875.
Soziologische Betrachtung des Phänomens Gaslighting.
[link]

Ethische Aspekte

Gerade auch in Hinblick auf die private Nutzung sind ethische Aspekte bezüglich des Internet of Things zu beachten. Das gilt umso mehr, wenn generative KI neue Lösungsansätze ermöglicht. Durch die mathematische Generierung von Text kann mithilfe von Algorithmen zwar eine bislang nicht erreichte sprachliche Leistung erbracht werden, jedoch geht mit diesem Durchbruch ein Paradigmenwechsel bei der Verwendung von technischen Hilfsmitteln einher. Zweifelsohne kann an dieser Stelle nur ein kurzes Schlaglicht auf damit einhergehende ethische Herausforderungen und Lösungen geworfen werden, allerdings ist das etwas ausführlicher behandelte Thema des in den generativen Technologien enthaltenen Bias eines der bekanntesten und drängendsten Themen. An dieser Stelle noch einmal der Verweis auf den Handapparat aus Episode 1.

Coeckelbergh, Mark: AI Ethics. In: The MIT Press Essential Knowledge Series. Cambridge, 2020.
Buch über KI-Ethik allgemein, mit einigen Kapiteln zu Grundlagen zu Data Science, den menschlichen Faktor bei KI, Bias und klimatechnischen Prämissen, die zumindest einen ersten Überblick schaffen können.
Christian, Brian: The Alignment Problem: Machine Learning and Human Values. New York, 2020.
Behandelt die Ausrichtung von KI-Systemen auf menschliche Werte.
Wiegerling, Klaus: Ubiquitous Computing. In: Grunwald, A., Hillerbrand, R. (Hg.): Handbuch Technikethik. Stuttgart, 2021.
Kurze Einleitung in ethische Aspekte des Ubiquitous Computing, der Datenverarbeitung ohne nennenswerte Anforderungen für den Endnutzenden.
[link]
Jui, Tonni D./Rivas, Pablo: Fairness issues, current approaches, and challenges in machine learning models. In: International Journal of Machine Learning and Cybernetics. 15(1) 2024, S. 3095-3125.
Systematische Erforschung bestehender Artikel zu Firness bei der Entscheidungsfindung mithilfe von KI.
[link]
o.A.: Ethik und Künstliche Intelligenz: Was können technische Normen und Standards leisten? Berlin/Frankfurt (Main), 2020.
Artikel dazu, wie/ob Normensetzung ethische Regeln bezüglich KI festsetzen kann.
[link]

(Gender) Bias

Ditz, Jonas/Lichtmeß, Elmar: Bias in der künstlichen Intelligenz. Bonn, 2025.
Whitepaper zur Einführung zum Thema Bias durch das Bundesamt für Sicherheit in der Informationstechnik.
[link]
Mosene, Katharina/Leifeld, Johanna: Bias erkennen, Verantwortung übernehmen: Kritische Perspektiven auf KI und Datenqualität in der Hochschulbildung. In: Hochschulforum Digitalisierung [2025].
Es wird vor allem näher auf die durch die Massendatennutzung entstehenden Probleme eingegangen.
[link]
Seyedsalehi, Shirin et al.: Bias-aware Fair Neural Ranking for Addressing Stereotypical Gender Biases. In: International Conference on Extending Database Technology (EDBT). 2022.
Verfahren zum Erstellen eines Ranking Modells mit reduziertem Genderbias.
[link]

Datenschutz/Sicherheit

Aus den vorherigen Überlegungen geht hervor, dass die Aufdeckung und Lösung von Risiken ein wichtiger Punkt der sicheren Nutzung von IoT-Geräten ist. Dabei ist der Schutz der Daten hervorzuheben, allerdings beschränkt sich die Problematik nicht alleine darauf. Um sich möglichen Lösungen anzunähern, muss vorher eruiert werden, wo die Systeme besonders vulnerabel sind und wodurch die Sicherheitslücken entstehen.

IoT

Kizza, Joseph M.: New Frontiers of Ethics and Security: Internet of Things (IoT). In: Ethical and Social Issues in the Information Age. Texts in Computer Science. Cham, 2023.
Text zur neuen Grenzsetzung einer Schutzmauer des Privaten innerhalb des eigenen Hauses durch die Infiltrierung durch IoT-Geräte.
[link]
o.A.: Smarte Lautsprecher, Wearables und Sensoren: Wie »up-to-date« sind diese IoT-Geräte [2023]? In: Fraunhofer ISI.
Pressemitteilung zu Problemen mit Software, Updates und Datensicherheit
[link]
Knop, Dirk: CISA warnt vor Sicherheitslücken in 21 IoT-Industrie-Kontrollsystemen [2024]. In: heise online.
Liste mit konkreten Sicherheitslücken in IoT-Geräten.
[link]

Sprachassistenten

o.A.: Digitale Sicherheit – Sprachassistenten. In: Information des DIN-Verbraucherrates. 2019.
Kurze allgemeine Sicherheitshinweise.
[link]
o.A.: Leitlinien 02/2021 zu virtuellen Sprachassistenten. ²2021.
Leitlinien, vor allem den Datenschutz betreffend, aber auch um die Einschränkung von Persönlichkeitsrechten zu verhindern.
[link]
Geminn, Christian, L.: Datenschutz bei Sprachassistenten. In: Datenschutz und Datensicherheit – DuD 45(7) 2021, S. 509-514.
Text über Herausforderung an das Datenschutzrecht durch die Massendatennutzung des IoT.
[link]
Wall, Max: Sicherheit von Sprachassistenten: Darauf sollten Sie achten [2017]! In: heise online.
Kurzüberblick: versehentliche und absichtliche (kriminell/staatlich) ungewollte Aufnahmen und Befehlsausführungen/Datenherausgabe und Löschung.
[link]

Forschung

Sprachassistenten

o.A.: Auf Durchzug oder ganz Ohr? Datenschutz bei Amazon Echo und Google Home. In: Verbraucherzentrale. 2018.
Testreihe der Verbraucherzentrale zu Amazon und Alexa. Prüfung von Datensendungsverhalten, Kommunikationspartnern und Datensicherheit.
[link]
Lentzsch, Christopher et al.: Hey Alexa, is this Skill Safe?: Taking a Closer Look at the Alexa Skill Ecosystem. In: Network and Distributed Systems Security (NDSS) Symposium 2021. San Diego, 2021.
Prüfung von möglicherweise selbstgeschriebenen Programmen, die eine individuelle Verarbeitung von Eingaben ermöglichen. Sie sind über deren API mit Alexa verbunden.
[link]
Brien, Jörn: Amazon Alexa mit schwerwiegender Sicherheitslücke – Konzern reagiert [2022]. In: t3n.
Artikel zu Angriff indem man Alexa sich selbst Befehle geben lässt.
[link]
Seymour, William: Voice App Developer Experiences with Alexa and Google Assistant: Juggling Risks, Liability, and Security. In: arXiv. 2023.
Analyse über Probleme mit Alexa Skills und Googles Pendant aus Entwicklerperspektive.
[link]

generative KI

o.A.: Aktualisierte Fassung veröffentlicht: Chancen und Risiken generativer KI-Modelle [2025]. In: Bundesamt für Sicherheit in der Informationstechnik.
Überblick über das Thema.
[link]
Hupfauer, Markus/Schmücker, Pablo: GenAI Cyber Security. KI-Sicherheitsrisiken und mögliche Maßnahmen [2025]. In: Informatik Aktuell.
Informatische Lösung verschiedener technischer Risiken.
[link]
Eckert, Claudia: Generative Künstliche Intelligenz und ihre Auswirkungen auf die Cybersicherheit. 2025.
Impulspapier, dass neben den Risiken auch viele Chancen durch generative KI sieht.
[link]

Gegenmaßnahmen

IoT

o.A.: Simplications. Gemeinsam für Privatheit im vernetzten Zuhause. In: Bundesministerium für Forschung, Technologie und Raumfahrt.
Projekt zur partizipativen Erforschung von Sensordaten.
[link]
Wittkowski, Pascal: Smart Home offline nutzen: Diese Systeme laufen ohne Internetverbindung und Cloud [2023]. In: Netzwelt.
Vor- und Nachteile bei der Nutzung von SmartHomegeräten ohne Internetverbindung, sowie konkrete Herstellerangaben.
[link]

Sprachassistenten

o.A.: Mehr Datensouveränität im Umgang mit Sprachassistenten [2022]. In: Fraunhofer.
Aufbereitung und Visualisierung der Daten, die von dem Sprachassistenten gespeichert wurden. Diese sind bei der Auslieferung oft schlecht und unübersichtlich.
[link]
Brasser, Ferdinand: VoiceGuard: Secure and Private Speech Processing. In: Interspeech 2018. Hyderabad, 2018.
Verfahren um Sprachverarbeitung, die ausgelagert werden muss, auf einer vertrauenswürdigen Ausführungsumgebung extern zu verarbeiten.
[link]
Dichmann, Markus/Schulte, Martina: Spracherkennung: Mozilla plant Sprachassistenten ohne Datenschutzproblem [2020]. In: Deutschlandfunk Nova.
Sprachassistent ohne externe Datenverarbeitung.
[link]
Marr, Bernard: Why Apple Intelligence Sets A New Gold Standard For AI Privacy [2024]. In: Forbes.
Artikel zu Apple Intelligence mit Privacy by Design Entscheidung.
[link]

IoT & Generative KI

Eng mit der Sicherheit verbunden ist die stete Weiterentwicklung der Technik. Neben andauernder Verbesserung bestehender Verfahren, wie der Spracherkennung und der Textverarbeitung, werden auch immer wieder grundlegend neue Funktionsweisen etabliert. So werden einerseits neue Standards eingeführt oder die Integration von generativer KI forciert. Bei der Einführung und Etablierung kommt es dabei immer wieder zu neuen Herausforderungen .

SmartHome-Standard Matter

Schurwanz, Timo/Kolbow-Lehradt, Berti: Matter 2025: Es geht nur langsam voran im Smart Home der Zukunft [2025]. In: ComputerBild.
Angaben zu Stand des neuen „universalen“ Protokolls. Beinhaltet auch verbleibende Todos.
[link]
Kolbow-Lehradt, Berti: Der herstellerübergreifende Smart-Home-Standard Matter materialisiert sich [2023]. In: heise online.
Ausführlichere Einführung zu Matter.
[link]
Klipphahn, Maria: Tech-Facts: Was kann Matter? Alles zum neuen Smart Home Standard [2025]. In: CyberBlog.
Eher technische Einführung mit Auflistung der genauen Firmen und Geräte, die Matter Standard unterstützen.
[link]

Technischer Hintergrund zu Sprachassistenten

Jurafsky, Daniel/Martin, James H.: Speech and Language Processing: An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models, ³2025.
Einführung in die Spracherkennung und -verarbeitung.
[link]

Spracherkennung

o.A.: Automatic Speech Recognition. In: Huggingface.
Einführung in die automatische Sprachverarbeitung (Speech to Text) aus technischer Perspektive.
[link]
Efstathiadis, Georgios/Yadav, Vijay/Abbas, Anzar: LLM-based speaker diarization correction: A generalizable approach. In: Speech Communication, Band 170. 2025.
Artikel über die automatische Teilung der zu transkribierenden Audiosignale in maschinell verarbeitbare Stücke.
[link]
Linke, Julian/Geiger, Bernhard C. /Kubin, Gernot/Schuppler, Barbara: What’s so complex about conversational speech? A comparison of HMM-based and transformer-based ASR architectures. In: Moore, R.K. (Hg.): Computer Speech & Language, Band 90. 2025.
Tiefer Einblick in den Speech-to-Text-Prozess.
[link]
Hu, Jiachen/Liu, Qinghua/Jin, Chi: On Limitation of Transformer for Learning HMMs. In: arXiv. 2024.
Sehr spezifischer Einblick, inwiefern sich Transformermodelle eignen um ein Hidden Markov Modell nachzubauen.
[link]

Textverarbeitung

shivangi444: What is text clustering in NLP [2025]? In: GeeksforGeeks.
Einführung in die Clusterverarbeitung von Text.
[link]
Pawar, Saurav et al.: The What, Why, and How of Context Length Extension Techniques in Large Language Models – A Detailed Survey. In: arXiv. 2024.
Grundlegende Informationen zu der Kontextlänge bei der Verarbeitung von Text mit LLMs.
[link]
Leng, Quinn/Portes, Jacob/Havens, Sam/Zaharia, Matei/Carbin, Michael: Long Context RAG Performance of Large Language Models. In: arXiv. 2024.
Gleichbleibende Korrektheit bei langen Kontexten schwierig herzustellen, da effektive Kontextlänge geringer ist als maximale.
[link]
Zhang, Yusen/Sun, Ruoxi: Chain of Agents: Large language models collaborating on long-context tasks. In: 38th Conference on Neural Information Processing Systems. 2024.
Neues Verfahren Kontexte zu verarbeiten.
[link]

Weiterentwicklung smarter Geräte mit generativer KI

Kelbert, Patricia/Siebert, Julien/Jöckel, Lisa: Large action models (LAMs), tool learning, function calling and Agents [2024]. In: Fraunhofer IESE.
Artikel zu LAMs, die wie LLMs funktionieren, aber auch Aktionen durchführen können (wie Roboter zu steuern.
[link]

Gibberlink

o.A.: Gibberlink.
Chatbot, der in Maschinensprache mit einem anderen sprechen kann.
[link]
Kirchner, Malte: Wenn KI mit KI spricht: Gibberlink soll Telefongespräche effizienter machen [2025]. In: heise online.
Einführender Artikel zu Maschinensprache Gibberlink.
[link]
Waltle, Lena: Mit Gibberlink kommunizieren KI-Programme per Pieps-Geheimsprache [2025]. Neue Zürcher Zeitung.
Weitere Einführung.
[link]
ggerganov: ggwave. In: GitHub.
Repositorium mit Codebasis zu Protokoll ggwave.
[link]

Wirtschaftlichkeit & Nutzung

Für die Entwicklung der Geräte sind neben den technischen Ansprüchen und Möglichkeiten auch Aspekte der Nutzung der Geräte und deren Wirtschaftlichkeit von hoher Relevanz. Jedes Unternehmen muss innerhalb eines gewissen Rahmens wirtschaftlich handeln, was gerade bei großen Innovationssprüngen immer wieder Raum für Unsicherheiten und Spekulationen lässt. Um die Wirtschaftlichkeit besser beurteilen zu können, sind neben den allgemeinen Nutzungszahlen spezifische Fragen zu Nutzungsverhalten oder Ablehnungsgründen hilfreich, sodass die Ausrichtung der Geräteentwicklung entsprechend angesetzt werden kann.

Wirtschaftlichkeit von Generativer KI

Gewinne mithilfe genereller KI

Rand, Ben/Wu, Andy: How Will the Tech Titans Behind ChatGPT, Bard, and LLaMA Make Money [2023]? In: Working Knowledge.
Wirtschaftliche Einordnung der großen Sprachmodelle.
[link]
Blome, Titus: Der ausbleibende Profit Künstlicher Intelligenz: Bot better have my Money [2023]. In: der Freitag.
Sowohl über die wirtschaftlichen Verluste der Branche, als auch über die mit der Verbreitung der KI einhergehende Umstellung.
[link]
o.A.: Hype und kein Ende: Gibt es eine KI-Blase – und wenn ja, wann platzt sie [2025]? In: Deutschlandfunk.
Vergleich zwischen Dotcom-Blase aus den 90er Jahren und Hype um KI-Firmen jetzt.
[link]

Diskurs zu Gewinn von openai

Schmitz, Kevin: „Die Leute nutzen es mehr als erwartet“: OpenAI verliert laut Sam Altman Geld mit ChatGPT Pro [2025]. In: t3n.
Artikel zu Verlusten des Unternehmens.
[link]
Weiß, Eva-Maria: „Verrückt“ – OpenAI macht Verluste mit ChatGPT Pro [2025]. In: heise online.
Weiterer Artikel zu dem Thema.
[link]

Nutzung von Sprachassistenten

o.A.: Fact Sheet: Digitale Sprachassistenten 2021/22. In: bitkom. 2021.
Informationen von bitkom. Vergleich der Nutzung unterschiedlicher Geräte, wie auch Erwartungen an sie.
[link]
Ebbers, Frank/Karaboga, Murat: Influencing Factors for Users’ Privacy and Security Protection Behavior in Smart Speakers: Insights from a Swiss User Study. In: Katsikas, Sokratis et al. (Hg.): Computer Security. ESORICS 2022 International Workshops. ESORICS 2022. Lecture Notes in Computer Science, Band 13785. Cham, 2023.
Untersuchung zu Sicherheits-/Datenschutzbedenken und -einstellungen bei Nutzenden.
[link]
Acosta, Luca Hernández/Reinhardt, Delphine: Smart Speakers and Privacy: Users’ Perspectives. In: VDE dialog – The Technology Magazine, Band 4. 2020, S. 8-10.
Untersuchung zu Umgang mit Daten herstellerseitig aus Nutzerperspektive. Zusammenfassung verschiedener Studien, daher ein interessantes, weiterführendes Literaturverzeichnis.
[link]
Lavado-Nalvaiz, Natalia/Lucia-Palacios, Laura/Pérez-López, Raúl: The role of the humanisation of smart home speakers in the personalisation–privacy paradox. In: Yang, Christopher: Electronic Commerce Research and Applications, Band 53. 2022.
Studie zu Einstellung zu Menschlichkeit bei technischen Geräten.
[link]

Politische Debatten

Aufgrund der enormen Geldsummen, die im Zuge des Fortschrittes der KI-Forschung bewegt werden, aber auch wegen der großen Chancen und Risiken, die mit dem Thema einhergehen, ist es nötig entsprechende Vorgaben zu machen, um Risiken möglichst abzumildern und Chancen wahrzunehmen. Dazu werden nicht nur in der EU und in Deutschland eine Reihe von Gesetzen auf den Weg gebracht. Aufgrund der Schnelligkeit bei der Entwicklung verschiedener Technologien ist es jedoch anspruchsvoll allgemeine Normen zu finden, die auch in nächster Zukunft noch sinnvolle Rahmenbedingungen schaffen.

Meineck, Sebastian: KI-Gipfel in Bletchley: 28 Staaten und eine große Leerstelle [2023]. In: Netzpolitik.org.
KI-Gipfel mit Erklärung zu Künstlicher Intelligenz. Generative KI wird als „Frontier AI“ beleuchtet.
[link]

Gesetzliche Vorgaben

Gsenger, Rita/Sekwenz, Marie-Therese (Hg.): Digital Decade. How the EU Shapes Digitalisation Research. In: Schrör, Simon/Zech, Herbert (Hg.): Normsetzung und Entscheidungsverfahren. Schriftenreihe des Weizenbaum-Instituts für normative Wissenschaften, Band 3. Baden-Baden, 2025.
Buch zu Normsetzung. Hier besonders relevant S. 371-392 (Internet of Things Data within the Context of the Data Act: Between Opportunities and Obstacles). Ansonsten auch Kapitel zum Beispiel zu CRA oder GDPR.
[link]
Rudl, Tomas/Köver, Chris/Dachwitz, Ingo/Bergleiter, Ben/Kurz, Constanze: Nach Ampel-Aus: EU-Gesetze in der Warteschlange [2024]. In: Netzpolitik.org.
Zusammenfassung zum Stand verschiedener Digitalgesetze von Nov24 in Europa und vor allem Deutschland.
[link]

Cyberresilienzgesetz (CRA)

Krempl, Stefan: Cyber Resilience Act: Vernetzte Produkte müssen bald besser abgesichert sein [2024]. In: heise online.
Einführung zu dem Gesetz.
[link]
o.A.: Cyber Resilience Act [2025]. In: European Comission.
Angaben der europäischen Union und Verlinkung zu Kontext unter anderem in europäischen Gesetzgebung.
[link]
o.A.: Sicherheit für Produkte: Cyber Resilience Act der EU [2024]. In: IT-SICHERHEIT.
Enthält noch konkretere Angaben vor allem aus technischer Perspektive.
[link]
Henning, Maximilian: Cyber Resilience Act: Aufatmen für die Open-Source-Community [2024]. In: Netzpolitik.org.
Open Source spezifische Eigenheiten werden betrachtet.
[link]

ePrivacy

Henning, Maximilian: Cookie-Banner und Online-Tracking: EU-Kommission beerdigt Pläne für ePrivacy-Verordnung [2025]. In: Netzpolitik.org.
Gründe für das Scheitern des Gesetzes und Auswirkung dessen.
[link]
Steiner, Falk: Neuer Fahrplan: Welche Verordnungen die neue EU-Kommission einkassiert [2025]. In: heise online.
Vor allem über ePrivacy-Verordnung und KI-Haftungsrecht, aber auch wie man zukünftig Gesetze (schneller) auf den Weg bringt.
[link]

KI-Verordnung

Maggiore, Maria/Minano, Leila/Schmidt, Nico/Schumann, Harald: AI Act: Wie die Ausnahmen in der KI-Verordnung landeten [2025]. In: Netzpolitik.org.
Kritik an dem Gesetz vor allem da es erweiterte Überwachung zulässt.
[link]
Pery, Andrew: How can IoT device manufacturers prepare for the EU AI Act [2024]? In: iot insider.
Auswirkungen des Gesetzes für IoT.
[link]

Trotz aller Bemühungen besteht die Möglichkeit, dass nicht in jedem Einzelfall bestehende Bildrechte einwandfrei geklärt werden konnten.
Bei berechtigten Anliegen wenden sich sich bitte an FSP digitale_kultur unter d-k@fernuni-hagen.de.

Die Film-Produzent*innen übernehmen keine Verantwortung für die von anderen Anbietern bereit gestellten Inhalte, auf die mittels Hyperlinks verwiesen wird.

Sollten mit unserem Angebot verlinkte Seiten aus fachlichen oder rechtlichen Gründen Anlass zur Beanstandung geben, bitten wir um eine entsprechende Mitteilung an FSP digitale_kultur unter d-k@fernuni-hagen.de.