Menschliche Existenz, (Nicht)Nachhaltigkeit & Künstliche Intelligenz
AI-Safety und AI-Alignment als Reflexionsgröße der Medienpädagogik
DOI:
https://doi.org/10.21243/mi-01-25-25Schlagworte:
Künstliche Intelligenz, KI, AI Safety, AI Alignment, Philosophische Grundlagen der KI, Nachhaltigkeit, (Nicht)Nachhaltigkeit, MedienpädgogikAbstract
Der Beitrag untersucht die komplexen Zusammenhänge zwischen Künstlicher Intelligenz (KI), Alignment und Nachhaltigkeit und beleuchtet deren Bedeutung für zukünftige gesellschaftliche Transformationsprozesse. Eine systematische Analyse zeigt, dass digitale Technologien, insbesondere KI, bisher oft ohne ausreichende Beachtung von Nachhaltigkeitsaspekten entwickelt und eingesetzt werden. Der Beitrag skizziert die Notwendigkeit, sowohl technologische als auch geisteswissenschaftliche Perspektiven zu integrieren, um die Potenziale von KI im Sinne nachhaltiger Entwicklung zu nutzen. Ein besonderer Schwerpunkt liegt auf der Bedeutung von AI-Safety und AI-Alignment, um sicherzustellen, dass KI-Systeme verantwortungsvoll gestaltet und genutzt werden. Philosophische sowie ethische Überlegungen werden herangezogen, um die gesellschaftliche Verantwortung in der Technologieentwicklung und -nutzung zu beleuchten. Abschließend wird die Rolle der Medienpädagogik im Kontext von der Gestaltung von Künstlicher Intelligenz in Perspektive Nachhaltigkeit diskutiert: der Beitrag plädiert für eine stärkere Integration von Nachhaltigkeit in den medienpädagogischen Diskurs über KI sowie die Integration von medienpädagogischen Perspektiven in Diskurse um AI-Safety und AI-Alignment, um globale Herausforderungen wie den Klimawandel und soziale Ungleichheiten anzugehen.
Literaturhinweise
Aschenbrenner, Leopold (2024): Situational Awareness. The Decade Ahead, online unter: https://situational-awareness.ai/wp-content/uploads/2024/06/situationalawareness.pdf (letzter Zugriff: 14.02.2025).
Autenrieth, Daniel (2024): Moloch meets AI. Die Verantwortung von Bildung auf dem Weg zu einer KI-geprägten Zukunft, in: Niesyto, Horst/Dander, Valentin/Kübler, Hans-Dieter (Hg.): Bildung und digitaler Kapitalismus, München: kopaed, 127-148.
Autenrieth, Daniel (2025): Konstruktivistische Lerntheorien als Ausgangspunkt für das Alignment von KI-Systemen im Bildungskontext: Medienpädagogische Perspektiven für post-AGI Gesellschaftsszenarien, in: Ehlers, Ulf-Daniel/Reimer, Ricarda T.D. (Hg.): Medienpädagogische Erfahrungsräume zwischen Tradition und Innovation. Organisationsstrukturen und Lehren – ethische Diskurse ermöglichen, Weinheim: Beltz Juventa, 203-224.
Bach, Joscha (2023): Synthetic Sentience. Can Artificial Intelligence Become Conscious?, online unter: https://media.ccc.de/v/37c3-12167-synthetic_sentience (letzter Zugriff: 14.02.2025).
Barry, Brian (1999): Sustainability and Intergenerational Justice, in: Dobson, Andrew (Hg.): Fairness and Futurity, New York: Oxford University Press, 93-117.
Bendel, Oliver (2018): Chancen und Risiken 4.0, in: GS1 network 4, 14-18.
Bengio, Yoshua/Mindermann, Sören/Privitera, Daniel et al. (2025): International AI Safety Report, online unter: https://www.gov.uk/government/publications/international-ai-safety-report-2025 (letzter Zugriff: 14.02.2025).
Bennett, Nathan J./Blythe, Jessica/Cisneros-Montemayor, Andrés M./Singh, Gerald G./Sumaila, Rashid (2019): Just transformations to sustainability, in: Sustainability 11, 3881.
Bubeck, Sébastien/Chandrasekaran, Varun/Eldan, Ronen/Gehrke, Johannes/Horvitz, Eric/Kamar, Ece/Lee, Peter et al. (2023): Sparks of Artificial General Intelligence: Early experiments with GPT-4, online unter: https://doi.org/10.48550/ARXIV.2303.12712 (letzter Zugriff: 14.02.2025).
Büsch, Andreas (2024): Das Ende des Projekts Aufklärung? KI als Herausforderung für die Medienpädagogik, in: merz Zeitschrift für Medienpädagogik 68(3), 10-17.
Caney, Simon (2014): Two kinds of Climate Justice: Avoiding Harm and Sharing Burdens, in: The Journal of Political Philosophy 22(2), 125-149.
Chollet, François (2024): OpenAI O3 Breakthrough High Score on ARC-AGI-Pub, online unter: https://arcprize.org/blog/oai-o3-pub-breakthrough (letzter Zugriff: 14.02.2025).
Coeckelbergh, Mark (2020): AI for Climate: Freedom, Justice, and other ethical and political challenges, in: AI Ethics 1, 67-72.
Crawford, Kate (2021): Atlas of AI. Power, Politics, and the Planetary Costs of Artifical Intelligence, New Haven: Yale University Press.
Daheim, Christina/Wintermann, Ole (2019): Arbeit 2050: Drei Szenarien. Neue Ergebnisse einer internationalen Delphi-Studie des Millennium Project, Gütersloh: Bertelsmann Stiftung.
Damberger, Thomas (2022): Medienentwicklung und Medienpädagogik: Künstliche Intelligenz, in: Sander, Uwe/von Gross, Friederike/Hugger, Kai-Uwe (Hg.): Handbuch Medienpädagogik, Wiesbaden: Springer VS, online unter: https://doi.org/10.1007/978-3-658-25090-4_70-1 (letzter Zugriff: 14.02.2025).
de Witt, Claudia/Leineweber, Christian (2020): Zur Bedeutung Des Nichtwissens Und Die Suche Nach Problemlösungen: Bildungstheoretische Überlegungen Zur Künstlichen Intelligenz, in: MedienPädagogik: Zeitschrift für Theorie und Praxis der Medienbildung 39, 32-47.
Dhar, Payal (2020): The Carbon Impact of Artificial Intelligence, in: Nature Machine Intelligence 2, 423-425.
Dobson, Andrew (1998): Justice and Environment. Conceptions of Environmental Sustainability and Theories of Distributive Justice, Oxford: Oxford University Press.
Eckersley, Robyn (2023): Environmentalism and Political Theory: Toward an Ecocentric Approach, London/New York: Routledge.
Eloundou, Tyna/Manning, Sam/Mishkin, Pamela/Rock, Daniel (2023): GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models, online unter: https://doi.org/10.48550/ARXIV.2303.10130 (letzter Zugriff: 14.02.2025).
Fischer, Sascha/Puschmann, Cornelius (2021): Wie Deutschland über Algorithmen schreibt. Eine Analyse des Mediendiskurses über Algorithmen und Künstliche Intelligenz (2005-2020), Gütersloh: Bertelsmann Stiftung.
Fladvad, Bernd/Hasenfratz, Marc (2020): Einleitung. Imaginationen von Nachhaltigkeit zwischen Katastrophe, Krise und Normalisierung, in: Adloff, Frank/Fladvad, Bernd/Hasenfratz, Marc/Neckel, Sighard (Hg.): Imaginationen von Nachhaltigkeit: Katastrophe. Krise. Normalisierung, 13-28.
Foerster, Heinz von (2008a): Einführung in den Konstruktivismus, München/Berlin/Zürich: Piper.
Foerster, Heinz von (2008b): Entdecken oder Erfinden. Wie läßt sich Verstehen verstehen?, in: Foerster, Heinz von (Hg.): Einführung in den Konstruktivismus, München/Berlin/Zürich: Piper, 41-88.
Friedrichs, Wolfgang (2021): Zur Neuvermessung der politischen Bildung im Anthropozän, in: Stainer-Hämmerle, Kathrin (Hg.): Glaube - Klima - Hoffnung: Religion und Klimawandel als Herausforderungen für die politische Bildung, 45-59.
Future of Life Institute (2023): Pause Giant AI Experiments: An Open Letter, online unter: https://futureoflife.org/open-letter/pause-giant-ai-experiments/ (letzter Zugriff: 14.02.2025).
Glasersfeld, Ernst von (2008): Konstruktion von Wirklichkeit und des Begriffs der Objektivität, in: Foerster, Heinz von (Hg.): Einführung in den Konstruktivismus, München/Berlin/Zürich: Piper, 9-40.
Good, Irving John (1965): Speculations Concerning the First Ultraintelligent Machine, in: Advances in Computers 6, 31-88.
Grunwald, Armin (2024): Verantwortung und Technik: zum Wandel des Verantwortungsbegriffs in der Technikethik, in: Seibert-Fohr, Anja (Hg.): Entgrenzte Verantwortung. Zur Reichweite und Regulierung von Verantwortung in Wirtschaft, Medien, Technik und Umwelt, Berlin: Springer Nature, 265-283.
Grunwald, Armin/Kopfmüller, Jürgen (2021): Nachhaltigkeit, Frankfurt am Main: Campus.
Hornischer, Hannes/Plakolb, Simon/Jäger, Georg/Füllsack, Manfred (2020): Foresight Rather than Hindsight? Future State Maximization as a Computational Interpretation of Heinz von Foerster's Ethical Imperative, in: Constructivist Foundations 16(1), 36-49.
Iske, Stefan/Verständig, Dan (2014): Medienpädagogik und die Digitale Gesellschaft im Spannungsfeld von Regulierung und Teilhabe, in: medienimpulse 4, online unter: https://doi.org/10.21240/mpaed/00/2014.12.03.X (letzter Zugriff: 14.02.2025).
Jakubik, Johannes/Vössing, Michael/Kühl, Niklas/Walk, Jannis/Satzger, Gerhard (2024): Data-Centric Artificial Intelligence, online unter: https://doi.org/10.48550/arXiv.2212.11854 (letzter Zugriff: 14.02.2025).
Jonas, Hans (2020): Das Prinzip Verantwortung, Berlin: Suhrkamp.
Kissinger, Henry/Schmidt, Eric/Mundie, Craig (2024): Genesis: Artificial Intelligence, Hope, and the Human Spirit, London: John Murray.
Klar, Maria/Schleiss, Johannes (2024): Künstliche Intelligenz Im Kontext Von Kompetenzen, Prüfungen Und Lehr-Lern-Methoden: Alte Und Neue Gestaltungsfragen, in: MedienPädagogik: Zeitschrift für Theorie und Praxis der Medienbildung 58, 41-57.
Knaus, Thomas (2024): Warum KI kein Hype ist und die Medienpädagogik sich damit befassen sollte, in: merz Zeitschrift für Medienpädagogik 68(3), 21-30.
La Mettrie, Julien Offray de (2016): Der Mensch eine Maschine (L'Homme Machine), Berlin: Zenodot Verlagsgesellschaft.
Lange, Steffen/Santarius, Tilman (2018): Smarte grüne Welt? Digitalisierung zwischen Überwachung, Konsum und Nachhaltigkeit, München: oekom.
Leibniz, Gottfried Wilhelm (2021): Monadologie, Ditzingen: Reclam.
Leike, Jan/Sutskever, Ilya/Aschenbrenner, Leopold et al. (2023): Introducing Superalignment, online unter: https://openai.com/index/introducing-superalignment/ (letzter Zugriff: 14.02.2025).
Luccioni, Alexandra Sasha/Viguier, Sylvain/Ligozat, Anne-Laure (2022): Estimating the Carbon Footprint of BLOOM, a 176B Parameter Language Model, in: Journal of Machine Learning Research 24, 1-15.
Malmio, Irja (2024): Artificial intelligence and the social dimension of sustainable development: through a security perspective, in: Discover Sustainability 5, 466.
Maurer, Björn/Rieckmann, Marco/Schluchter, Jan-René (Hg.) (2024): Medien – Bildung – Nachhaltige Entwicklung. Inter- und transdisziplinäre Diskurse, Weinheim: Beltz Juventa.
Mazeika, Mantas/Yin, Xuwang/Tamirisa, Rishub/Lim, Jaehyuk/Lee, Bruce W./Ren, Richard/Phan, Long et al. (2025): Utility Engineering: Analyzing and Controlling Emergent Value Systems in AIs, online unter: https://doi.org/10.48550/arXiv.2502.08640 (letzter Zugriff: 14.02.2025).
Meinke, Alexander/Schoen, Bronson/Scheurer, Jérémy/Balesni, Mikita/Shah, Rusheb/Hobbhahn, Marius (2025): Frontier Models are Capable of In-context Scheming, online unter: https://doi.org/10.48550/arXiv.2412.04984 (letzter Zugriff: 14.02.2025).
Minsky, Marvin (1988): The Society of Mind, New York: Simon & Schuster.
Moravec, Hans (1988): Mind Children: The Future of Robot and Human Intelligence, Cambridge, MA: Harvard University Press.
Nationale Akademie der Wissenschaften (2024): Die Zukunft der Arbeit. Stellungnahme Januar 2024, Berlin.
Niesyto, Horst (2017): Medienpädagogik und digitaler Kapitalismus. Für die Stärkung einer gesellschafts- und medienkritischen Perspektive, in: MedienPädagogik: Zeitschrift für Theorie und Praxis der Medienbildung 27 (Spannungsfelder & blinde Flecken), 1-29, online unter: https://doi.org/10.21240/mpaed/27/2017.01.13.X (letzter Zugriff: 14.02.2025).
Nussbaum, Martha (2013): Climate Change: Why Theories of Justice Matter, in: Chicago Journal of International Law 13(2), 469-488.
OpenAI (2025): Introducing Deep Research, online unter: https://openai.com/index/introducing-deep-research/ (letzter Zugriff: 14.02.2025).
Patterson, David A./Gonzalez, Joseph/Le, Quoc V./Liang, Chen/Munguia, Lluis-Miquel/Rothchild, Daniel/So, David R./Texier, Maud/Dean, Jeff (2021): Carbon Emissions and Large Neural Network Training, online unter: https://doi.org/10.48550/ARXIV.2104.10350 (letzter Zugriff: 14.02.2025).
Phan, Long/Gatti, Alice/Han, Ziwen/Li, Nathaniel/Hu, Josephina/Zhang, Hugh/Zhang, Chen Bo Calvin et al. (2025): Humanity's Last Exam, online unter: https://doi.org/10.48550/arXiv.2501.14249 (letzter Zugriff: 14.02.2025).
Pufé, Iris (2017): Nachhaltigkeit. Konstanz: UVK (UTB)
Raudonat, Kerstin/Mayweg, Elisabeth (2024): Navigieren Im Fluss Sich Wandelnder Technologien: Metakompetenzen Im Kontext Der Diversifizierung Von KI-Technologien, in: MedienPädagogik: Zeitschrift für Theorie und Praxis der Medienbildung 61 (Becoming Data), 133-155, online unter: https://doi.org/10.21240/mpaed/61/2024.12.12.X (letzter Zugriff: 14.02.2025).
Rehak, Rainer (2023): Zwischen Macht und Mythos: Eine kritische Einordnung aktueller KI-Narrative, online unter: https://www.soziopolis.de/zwischen-macht-und-mythos.html (letzter Zugriff: 14.02.2025).
Rhode, Friederike/Wagner, Josephin/Meyer, Andreas/Reinhard, Philipp/Voss, Marcus/Petschow, Ulrich/Mollen, Anne (2024): Broadening the perspective for sustainable artificial intelligence: sustainability criteria and indicators for Artificial Intelligence systems, in: Current Opinion in Environmental Sustainability 66, online unter: https://doi.org/10.1016/j.cosust.2023.101411 (letzter Zugriff: 14.02.2025).
Rolnick, David/Donti, Priya L./Kaack, Lynn H./Kochanski, Kelly/Lacoste, Alexandre/Sankaran, Kris/Ross, Andrew Slavin/Milojevic-Dupont, Nikola/Jaques, Natasha/Waldman-Brown, Anna/Luccioni, Alexandra/Maharaj, Tegan/Sherwin, Evan D./Mukkavilli, S. Karthik/Kording, Konrad P./Gomes, Carla/Ng, Andrew Y./Hassabis, Demis/Platt, John C./Creutzig, Felix/Chayes, Jennifer/Bengio, Yoshua (2019): Tackling Climate Change with Machine Learning, online unter: https://doi.org/10.48550/arXiv.1906.05433 (letzter Zugriff: 14.02.2025).
Russell, Stuart J./Norvig, Peter (2021): Artificial Intelligence: A Modern Approach, Hoboken, NJ: Pearson.
Samuel, A. L. (1959): Some Studies in Machine Learning Using the Game of Checkers, in: IBM Journal of Research and Development 3(3), 210-229.
Santarius, Tilman/Wagner, Josephin (2023): Digitalization and Sustainability. A Systematic Literature Analysis of ICT for Sustainability Research, in: GAIA 32(1), 21-32.
Schlosberg, David (2007): Defining Environmental Justice: Theories, Movements, and Nature, Oxford: Oxford University Press.
Schmohl, Tobias/Watanabe, Alice/Schelling, Kathrin (Hg.) (2023): Künstliche Intelligenz in der Hochschulbildung: Chancen und Grenzen des KI-gestützten Lernens und Lehrens, Bielefeld: transcript Verlag.
Schwartz, R./Dodge, J./Smith, N. A./Etzioni, O. (2020): Green AI, in: Communications of the ACM 63(12), 54-63.
Sen, Amartya (2013): The Ends and Means of Sustainability, in: Journal of Human Development and Capabilities 14(1), 6-20.
Shue, Henry (2014): Climate Justice. Vulnerability and Protection, Oxford: Oxford University Press.
Sonnet, Daniel/Moring, Andreas/Bethge, Joseph/Müller, Hendrik (2024): Nachhaltige Künstliche Intelligenz. Eine Zukunftsvision und ihre Hintergründe, Wiesbaden: Springer Fachmedien.
Strubell, Emma/Ganesh, Ananya/McCallum, Andrew (2019): Energy and Policy Considerations for Deep Learning in NLP, in: Korhonen, Anna/Traum, David/Màrquez, Lluís (Hg.): Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, Florence: Association for Computational Linguistics, 3645-3650.
Sühlmann-Faul, Felix/Rammler, Stephan (2018): Der blinde Fleck der Digitalisierung. Wie sich Nachhaltigkeit und digitale Transformation in Einklang bringen lassen, München: oekom.
Sūna, Laura/Hoffmann, Dagmar/Mollen, Anne (2024): Diskriminierung durch Algorithmen. Überlegungen zur Stärkung KI‑bezogener Kompetenzen, in: Eder, S./Güneşli, H./Hillen, R./Wegener, C./Wienhold, R. (Hg.): Un|Sichtbarkeiten? Medienpädagogik, Intersektionalität und Teilhabe, München: kopaed, online unter: https://www.gmk-net.de/wp-content/uploads/2024/12/gmk60_suna_hoffmann_mollen.pdf (letzter Zugriff: 14.02.2025).
Tegmark, Max (2017): Life 3.0: Being Human in the Age of Artificial Intelligence, London: Allen Lane.
Tomlinson, Bill/Black, Rebecca W./Patterson, Donald J./Torrance, Andrew W. (2024): The carbon emissions of writing and illustrating are lower for AI than for humans, in: Scientific Reports 14(1), 3732.
Töns, John (2022): John Rawls and Environmental Justice. Implementing a Sustainable and Socially Just Future, London/New York: Routledge.
Tulodziecki, Gerhard (2021): Mediendidaktik angesichts künstlicher Intelligenz unter der Perspektive humanen Handelns, in: Medienimpulse 59(2), online unter: https://doi.org/10.21243/mi-02-21-16 (letzter Zugriff: 14.02.2025).
Ueda, Daiju/Walston, Shannon L./Fujita, Shohei/Fushimi, Yasutaka/Tsuboyama, Takahiro/Kamagata, Koji/Yamada, Akira et al. (2024): Climate change and artificial intelligence in healthcare: Review and recommendations towards a sustainable future, in: Nature Medicine 30(2), 324-336.
Vanderheiden, Steve (2015): Environmental Justice, London/New York: Routledge.
Varsik, Samo/Vosberg, Lydia (2024): The Potential Impact of Artificial Intelligence on Equity and Inclusion in Education, in: OECD Artificial Intelligence Papers 23, Paris: OECD Publishing.
Vinuesa, Ricardo/Azizpour, Hossein/Leite, Iolanda/Balaam, Madeline/Dignum, Virginia/Domisch, Sami/Felländer, Anna/Langhans, Simone/Tegmark, Max/Nerini, Francesco Fuso (2020): The role of artificial intelligence in achieving the Sustainable Development Goals, in: Nature Communications 11, 233.
Wendt, Björn/Görgen, Benjamin (2018): Macht und soziale Ungleichheit als vernachlässigte Dimension der Nachhaltigkeitsforschung. Überlegungen zum Verhältnis von Nachhaltigkeit und Verantwortung, in: Henkel, Anna/Lüdtke, Nico/Buschmann, Nikolaus/Hochmann, Lars (Hg.): Reflexive Responsibilisierung. Verantwortung für nachhaltige Entwicklung, Bielefeld: transcript, 49-66.
Wittgenstein, Ludwig (2003): Philosophische Untersuchungen, Frankfurt am Main: Suhrkamp.
World Economic Forum (2025): Future of Jobs Report 2025, online unter: https://www.weforum.org/reports/the-future-of-jobs-report-2025/ (letzter Zugriff: 14.02.2025).
Downloads
Veröffentlicht
Zitationsvorschlag
Ausgabe
Rubrik
Lizenz
Copyright (c) 2025 Daniel Autenrieth, Jan-René Schluchter
Dieses Werk steht unter einer Creative Commons Namensnennung - Nicht-kommerziell - Keine Bearbeitung 3.0 International -Lizenz.
