Desinformation und KI
Wirkung, Wahrnehmung, Kompetenzen und pädagogische Ansätze
DOI:
https://doi.org/10.21243/mi-01-26-10Schlagworte:
Desinformation, Künstliche Intelligenz, Deepfakes, politische MedienbildungAbstract
Der Beitrag führt zunächst begrifflich in den Phänomenbereich ‚Desinformation und KI‘ ein, der gegenwärtig in enger Verschränkung mit menschen- und demokratie-feindlichen Praktiken sowie Akteurinnen und Akteuren auftritt. Er gibt sodann einen Überblick über empirische Erhebungen mit einem Schwerpunkt auf Deutschland und fragt nach angemessenen pädagogischen Bearbeitungsformen, die in Anbetracht der aktuellen Forschungslage zu gegenstandsbezogenen Wirkungen, Wahrnehmungen, Kompetenzen und Bildungsangeboten als eine gesellschaftliche Reaktion neben politischen, regulatorischen und anderen angezeigt erscheinen. Der Text orientiert sich hierbei an den folgenden Leitfragen und sucht sie zu beantworten: Wie können Mediennutzende befähigt werden, um gegen Desinformation, auch solche, die mit generativen KI-Systemen erstellt wurden, gewappnet zu sein? Welche Fähigkeiten sind hierfür besonders relevant? Welche Ansätze der Vermittlung und Bildung erweisen sich als vielversprechend und welche Herausforderungen gilt es zu bewältigen?
Literaturhinweise
Acerbi, A., Altay, S., & Mercier, H. (2022). Research note: Fighting misinformation or fighting for information? Harvard Kennedy School Misinformation Review, 1(Jg. 3). https://doi.org/10.37016/mr-2020-87
Altay, S., Berriche, M., & Acerbi, A. (2023). Misinformation on Misinformation: Conceptual and Methodological Challenges. Social Media + Society, 9(1), 20563051221150412. https://doi.org/10.1177/20563051221150412
Anstead, N., Edwards, L., Livingstone, S., & Stoilova, M. (2025). The Potential for Media Literacy to Combat Misinformation: Results of a Rapid Evidence Assessment. International Journal of Communication, 19(0), 23.
APA (2026, Februar 7). Inhalte der neuen Oberstufenfächer fix, Stundentafel nicht. DER STANDARD. https://www.derstandard.at/story/3000000307591/inhalte-der-neuen-oberstufenf228cher-fix-stundentafel-nicht
Baacke, D. (1996). Medienkompetenz – Begrifflichkeit und sozialer Wandel. In A. von Rein (Hrsg.), Medienkompetenz als Schlüsselbegriff (S. 112–124). Klinkhardt.
Balog-Way, D., & McComas, K. (2025). Unpacking the Risk of Misinformation: A Communication-Based Critique. Risk Analysis, 45(12), 4097–4109. https://doi.org/10.1111/risa.70093
Barrera Rodríguez, O., Guriev, S., Henry, E., & Zhuravskaya, E. (2019). Facts, Alternative Facts, and Fact Checking in Times of Post-Truth Politics (SSRN Scholarly Paper Nr. 3004631). Social Science Research Network. https://doi.org/10.2139/ssrn.3004631
Behre, J., Hölig, S., Stöwing, E., & Möller, J. (2025). Reuters Institute Digital News Report 2025: Ergebnisse für Deutschland. Arbeitspapiere des Hans-Bredow-Instituts. https://doi.org/10.21241/SSOAR.102887
Bernsteiner, A., Schubatzky, T., & Haagen-Schützenhöfer, C. (2024). Förderung eines kritischen Umgangs mit (Des-)Informationen durch aktive Inokulation und Debunking. In N. Graulich, J. Arnold, S. Sorge & M. Kubsch (Hrsg.), Lehrkräftebildung von morgen (S. 247–254). Waxmann. https://doi.org/10.31244/9783830997962.26
Bitkom Research (2025, Juni 2). Internetnutzer geben sich nur Note 3 für Medienkompetenz. Presseinformation | Bitkom e. V. https://www.bitkom.org/Presse/Presseinformation/Internetnutzer-Note-3-Medienkompetenz
Börsch-Supan, J., & Thies, L. (2020). Die Jugend in der Infodemie. Eine repräsentative Befragung zum Umgang junger Menschen in Deutschland mit Falschnachrichten während der Coronakrise. Vodafone Stiftung. https://www.vodafone-stiftung.de/wp-content/uploads/2020/12/VSD-99-007-FAKE-NEWS-07-WEB.pdf
Brüggen, N., Lauber, A., & Schober, M. (2022). Das Verhältnis von Subjekt und Medien angesichts algorithmischer Empfehlungssysteme: Überlegungen aus tätigkeitstheoretischer Perspektive. merz | medien + erziehung, 66(6), 133–146. https://doi.org/10.21240/merz/2022.6.12
Büsch, A. (2024). Das Ende des Projekts Aufklärung? KI als Herausforderung für die Medienpädagogik. merz | medien + erziehung, 68(3/Juni 2024), 10–17.
Cook, J., Lewandowsky, S., & Ecker, U. K. H. (2017). Neutralizing misinformation through inoculation: Exposing misleading argumentation techniques reduces their influence. PLOS ONE, 12(5), e0175799. https://doi.org/10.1371/journal.pone.0175799
Dander, V. (2023). Politische Medienbildung und Netzpolitik: Eine Re-Aktualisierung des „Diskurses der Informationsgesellschaft“. Medienimpulse, 61(4). https://doi.org/10.21243/mi-04-23-16
Dander, V. (2024). Medienbildung und der digitale Faschismus. Normative Anfragen an medienpädagogische Kernkonzepte. In S. Schenk (Hrsg.), Populismus und Protest. Demokratische Öffentlichkeiten und Medienbildung in Zeiten von Rechtsextremismus und Digitalisierung (S. 149–174). Barbara Budrich. https://www.pedocs.de/volltexte/2024/29037/pdf/Schenk_2024_Populismus_und_Protest.pdf
der Standard (2026, Januar 8). Deepfakes: Grok wird zum Werkzeug für Pädophile, die Investoren freut’s. DER STANDARD. https://www.derstandard.de/story/3000000303053/deepfakes-grok-wird-zum-werkzeug-fuer-paedophile-die-investoren-freuts
Eberhardt, V., Mayer, S., Fridrik, S., Temel, B., & Mühlbauer, J. (2024). Gegen Falschinformation immunisieren? Potenziale und Grenzen von Prebunking. erwachsenenbildung.at, (52), 56–65.
Facciani, M. (2025). Misguided: Where Misinformation Starts, How It Spreads, and What to Do About It. Columbia University Press.
Feierabend, S., Rathgeb, T., Gerigk, Y., & Glöckler, S.: (2025). JIM-Studie 2025. Jugend, Information, Medien. Basisuntersuchung zum Medienumgang 12- bis 19-Jähriger in Deutschland. Hrsg. von Medienpädagogischer Forschungsverbund Südwest (mpfs). https://mpfs.de/app/uploads/2024/11/JIM_2024_PDF_barrierearm.pdf
Feierabend, S., Rathgeb, T., Kheredmand, H., & Glöckler, S.: (2022). JIM-Studie 2022. Jugend, Information, Medien. Basisuntersuchung zum Medienumgang 12- bis 19-Jähriger. Hrsg. von Medienpädagogischer Forschungsverbund Südwest (mpfs). http://www.mpfs.de/fileadmin/files/Studien/JIM/2022/JIM_2022_Web_final.pdf
Girlguiding (2025, Februar 11). One in four teens have seen pornographic deepfakes online. Girlguiding. https://www.girlguiding.org.uk/about-us/press-releases/one-in-four-teens-have-seen-pornographic-deepfakes-online/
Hasebrink, U., Hölig, S., & Wunderlich, L. (2021). #UseTheNews: Studie zur Nachrichtenkompetenz Jugendlicher und junger Erwachsener in der digitalen Medienwelt (Bd. 55). Verlag Hans-Bredow-Institut. https://doi.org/10.21241/ssoar.72822
Heldt, H. (2022). Digitalisierung, Mediatisierung, Demokratie. Politische Medienbildung als Anliegen und Auftrag der Erwachsenenbildung. erwachsenenbildung.at, (44/45), 2–9. https://doi.org/10.25656/01:24479
Hobbs, R. (2011). Empowering learners with digital and media literacy. Knowledge quest, 39(5), 13–17.
Holland, M. (2026, Januar 23). Weißes Haus verbreitet KI-manipulierte Aufnahme von festgenommener Aktivistin. heise online. https://www.heise.de/news/Weisses-Haus-verbreitet-KI-manipulierte-Aufnahme-von-festgenommener-Aktivistin-11151370.html
Hug, T. (2012). Media competence and visual literacy—Towards considerations beyond literacies. Social and Management Sciences, 20(2), 115–125.
IDZ & GMK (Hrsg.) (2026). Atlas. Wahrheit und Wissen im digitalen Wandel. Desinformation und KI. Institut für Demokratie und Zivilgesellschaft (IDZ); Gesellschaft für Medienpädagogik und Kommunikationskultur (GMK).
https://atlas.machine-vs-rage.net/ki-und-desinformation/
Internet Matters (2024). The new face of digital abuse: Children’s experiences of nude deepfakes. internet matters.org. http://www.flipsnack.com/internetmattersorg/children-s-experiences-of-nude-deepfakes-research/download-pdf.html
Ireton, C., & Posetti, J. (2018). Journalism, fake news & disinformation: Handbook for journalism education and training. Unesco Publishing.
Iske, S., Klein, A., Kutscher, N., & Otto, H.-U. (2007). Virtuelle Ungleichheit und informelle Bildung. Eine empirische Analyse der Internetnutzung Jugendlicher und ihre Bedeutung für Bildung und gesellschaftliche Teilhabe. In Kompetenzzentrum Informelle Bildung (Hrsg.), Grenzenlose Cyberwelt? Zum Verhältnis von digitaler Ungleichheit und neuen Bildungszugängen für Jugendliche (S. 65–91). VS Verlag für Sozialwissenschaften. http://dx.doi.org/10.1007/978-3-531-90519-8_4
JFF – Institut für Medienpädagogik in Forschung und Praxis (Hrsg.) (2020, Februar 7). Digitales Deutschland. Rahmenkonzept. https://digid.jff.de/wp-content/uploads/2021/06/Rahmenkonzept_DigitalesDeutschland_Vollversion.pdf
Johnson, H. M., & Seifert, C. M. (1994). Sources of the continued influence effect: When misinformation in memory affects later inferences. Journal of Experimental Psychology: Learning, Memory, and Cognition, 20(6), 1420–1436. https://doi.org/10.1037/0278-7393.20.6.1420
Kastorff, T., Müller, M., Selva, C., Greiff, S., & Moser, S. (2025). Fake News oder Fakten? Wie Jugendliche ihre digitale Informationskompetenz einschätzen und welche Rolle Schulen und Lehrkräfte dabei spielen. Erkenntnisse aus PISA 2022. pedocs.
http://nbn-resolving.de/urn:nbn:de:0111-pedocs-332881
Kellner, D., & Share, J. (2007). Critical media literacy is not an option. Learning Inquiry, 1(1), 59–69. https://doi.org/10.1007/s11519-007-0004-2
Kheredmand, H. (2022). JIMplus 2022. Fake News und Hatespeech. Fake News und Hatespeech im Alltag von Jugendlichen (MPFS – Medienpädagogischer Forschungsverbund Südwest, Hrsg.). Landesanstalt für Kommunikation Baden-Württemberg (LFK), medienanstalt rlp (LMK). https://www.lfk.de/fileadmin/PDFs/Publikationen/Studien/JIMplus-2022/JIMplus-2022.pdf
Kindlinger, M., & Abs, H. J. (2025). Entwicklung eines KI-Kompetenzprofils aus Perspektive der politischen Bildung (Nr. 2; PrEval studien). PRIF – Leibniz-Institut für Friedens- und Konfliktforschung. https://preval.hsfk.de/fileadmin/PrEval/PrEval_Studie_2_2025.pdf
Knaus, T. (2024). Warum KI kein Hype ist und die Medienpädagogik sich damit befassen sollte. merz | medien+erziehung, 68(3/Juni 2024), 21–30.
Kolbe, C., Dander, V., Hünemörder, K., Wolf, H., Strnad, T., Ünsal, S., & Rössler, C. (2023). Gegen Hass im Netz. Kompass für gelingende politische Medienbildung. Eine Orientierungshilfe für pädagogische Fachkräfte. Gesellschaft für Medienpädagogik und Kommunikationskultur e.V. (GMK) & medialepfade.org – Verein für Medienbildung e.V. https://hass-im-netz.gmk-net.de/kompass/
Lao, Y., Hirvonen, N., & Larsson, S. (2025). Everyday encounters with deepfakes: Young people’s media and information literacy practices with AI-generated media. Journal of Documentation, 81(7), 216–235. https://doi.org/10.1108/JD-01-2025-0007
Lewandowsky, S., & Yesilada, M. (2021). Inoculating against the spread of Islamophobic and radical-Islamist disinformation. Cognitive Research: Principles and Implications, 6(1), 57. https://doi.org/10.1186/s41235-021-00323-z
LfM (2025). Ergebnisse der forsa-Befragung zu Informationsverhalten bei Wahlen und politischer Desinformation. Landesanstalt für Medien NRW. https://www.medienanstalt-nrw.de/fileadmin/user_upload/Forschung/forsa_Desinformation/LFM_NRW_Desinformation_forsa_2025.pdf
Mansell, R., Durach, F., Kettemann, M. C., Lenoir, T., Procter, R., Tripathi, G., & Tucker, E. (2025). Information ecosystem and troubled democracy, A Global Synthesis of the State of Knowledge on News Media, AI and Data Governance. International Observatory on Information and Democracy (OID). https://observatory.informationdemocracy.org/wp-content/uploads/2024/12/rapport_forum_information_democracy_2025.pdf
Mantzarlis, A. (2018). Fact-checking 101. In C. Ireton & J. Posetti (Hrsg.), Journalism, fake news & disinformation: Handbook for journalism education and training (S. 81–95). Unesco Publishing.
Materna, G., & Brüggen, N. (2024). Die Informationsräume und das Informationshandeln junger Menschen und ihr Umgang mit Desinformation. Eine medienpädagogische Untersuchung mediatisierter Sozialräume. Zenodo. https://doi.org/10.5281/zenodo.12635275
McGuire, W. J. (1961). Resistance to persuasion conferred by active and passive prior refutation of the same and alternative counterarguments. The Journal of Abnormal and Social Psychology, 63(2), 326–332. https://doi.org/10.1037/h0048344
Melo-Pfeifer, S., & Gertz, H. D. (2022). Transforming Disinformation on Minorities Into a Pedagogical Resource: Towards a Critical Intercultural News Literacy. Media and Communication, 10(4). https://doi.org/10.17645/mac.v10i4.5708
Moser, H. (2010). Einführung in die Medienpädagogik. Aufwachsen im Medienzeitalter. VS Verlag für Sozialwissenschaften.
Nicolaus, K., & Scherndl, G. (2025, Februar 21). Melden zwecklos: Tiktok ignoriert Desinformation zur Bundestagswahl. correctiv.org. https://correctiv.org/faktencheck/hintergrund/2025/02/21/melden-zwecklos-tiktok-ignoriert-desinformation-zur-bundestagswahl/
Niesyto, H. (2022). Medienkritik. In U. Sander, F. von Gross & K.-U. Hugger (Hrsg.), Handbuch Medienpädagogik (S. 125–135). Springer Fachmedien. https://doi.org/10.1007/978-3-658-23578-9_14
Niesyto, H., & Moser, H. (Hrsg.). (2018). Medienkritik im digitalen Zeitalter. kopaed.
Peter, C., & Koch, T. (2016). When Debunking Scientific Myths Fails (and When It Does Not): The Backfire Effect in the Context of Journalistic Coverage and Immediate Judgments as Prevention Strategy. Science Communication, 38(1), 3–25. https://doi.org/10.1177/1075547015613523
Roozenbeek, J., & van der Linden, S. (2019). The fake news game: Actively inoculating against the risk of misinformation. Journal of Risk Research, 22(5), 570–580. https://doi.org/10.1080/13669877.2018.1443491
Rössler, C., & Schmidt, L. (2024). Bedarfserhebung unter pädagogischen Fachkräften zu ihrer Arbeit gegen Hass im Netz. Gesellschaft für Medienpädagogik und Kommunikationskultur e.V. (GMK) & JFF – Institut für Medienpädagogik in Forschung und Praxis. https://hass-im-netz.gmk-net.de/wp-content/uploads/2024/03/Bedarfserhebung-unter-paedagogischen-Fachkraeften-zu-ihrer-Arbeit-gegen-Hass-im-Netz.pdf
Saadati, F., Chehreh, I., & Ansari, E. (2024). The Role of Social Media Platforms in Spreading Misinformation Targeting Specific Racial and Ethnic Groups: A Brief Review. Proceedings of the 36th Conference of Open Innovations Association FRUCT, Helsinki, Finland. https://www.fruct.org/files/publications/volume-36/acm36/Saa.pdf
Schmitt, J. B., Ernst, J., & Rieger, D. (2020). „Fake News“ und Propaganda – Wirkung und Prävention durch die Förderung von Medienkritikfähigkeit. In R. Hohlfeld, M. Harnischmacher, E. Heinke, L. Lehner, & M. Sengl (Hrsg.), Fake News und Desinformation (S. 327–340). Nomos. https://doi.org/10.5771/9783748901334-327
Soßdorf, A., Stein, C., Bezzaoui, I., & Fegert, J. (2024). Kompetenzen gegen Fake News. Untersuchung der Rolle von Datenkompetenz und kritischer Medienkompetenz im Kampf gegen Desinformation. MedienPädagogik: Zeitschrift für Theorie und Praxis der Medienbildung, 59, 55–76. https://doi.org/10.21240/mpaed/59/2024.04.10.X
Stein, R., Rutchick, A. M., Sin, A. Y., & Jarrin Rueda, L. F. (2025). Symbolic show of strength: A predictor of risk perception and belief in misinformation. The Journal of Social Psychology, 0(0), 1–27. https://doi.org/10.1080/00224545.2025.2541206
Törnberg, P., & Chueri, J. (2025). When Do Parties Lie? Misinformation and Radical-Right Populism Across 26 Countries. The International Journal of Press/Politics, 19401612241311886. https://doi.org/10.1177/19401612241311886
Uhlenbrock, L. (2024). KI-generierte Bilder, Texte und Videos erkennen. merz | medien+erziehung, 68(3/Juni 2024), 34–37.
UNESCO (2024). AI competency framework for students. UNESCO. https://doi.org/10.54675/JKJB9835
Zhou, Y., & Shen, L. (2022). Confirmation Bias and the Persistence of Misinformation on Climate Change. Communication Research, 49(4), 500–523. https://doi.org/10.1177/00936502211028049
Zillien, N. (2018). Soziale Ungleichheiten. In D. Hoffmann & R. Winter (Hrsg.), Mediensoziologie. Handbuch für Wissenschaft und Studium (1. Auflage: 304–310). Nomos.
Downloads
Veröffentlicht
Zitationsvorschlag
Ausgabe
Rubrik
Lizenz
Copyright (c) 2026 Valentin Dander, Melina Honegg, Carolin Rössler
Dieses Werk steht unter einer Creative Commons Namensnennung - Nicht-kommerziell - Keine Bearbeitung 3.0 International -Lizenz.
