9.6.2.3 Reflektieren

[gesichtete Version][gesichtete Version]
New from TOC
 
Keine Bearbeitungszusammenfassung
 
(Eine dazwischenliegende Version desselben Benutzers wird nicht angezeigt)
Zeile 1: Zeile 1:
Dies ist eine neu erstellte Seite.
Im dritten Kompetenzbereich steht die kritische Auseinandersetzung mit Künstlicher Intelligenz (KI) im Mittelpunkt. Ziel ist es, KI nicht nur als technologisches Werkzeug, sondern als gesellschaftlich relevante Technologie zu verstehen, deren Einsatz mit weitreichenden ethischen, rechtlichen und sozialen Fragestellungen verbunden ist.
 
Zentrale Inhalte:
* '''Entscheidungsfindung und Bias:''' KI-Systeme basieren auf Trainingsdaten, was sie anfällig für Verzerrungen (Bias) macht, die zu diskriminierenden Ergebnissen führen können, etwa bei Gesichtserkennung oder Sprachmodellen.
 
* '''Ethische Fragestellungen:''' Im Umgang mit KI müssen zentrale Werte wie Verantwortung, Datenschutz, Transparenz und Rechenschaftspflicht gewahrt bleiben. Lehrkräfte und Lernende müssen reflektieren, wer Entscheidungen trifft – Mensch oder Maschine.
 
* '''Normative Perspektiven:''' Relevante Rahmenwerke wie der EU AI Act, ethische Richtlinien der EU-Kommission oder des Deutschen Ethikrats bieten Orientierung für einen verantwortungsvollen Umgang mit KI.
 
* '''Gesellschaftliche Auswirkungen:''' KI beeinflusst zentrale Lebensbereiche: Bildung, Arbeit, Demokratie, Medien. Auch Fragen der sozialen Gerechtigkeit und digitalen Teilhabe sollten berücksichtigt werden.
 
(<cite id="68b86fe95ecb8">Alles+et+al.+2025</cite>)
 
Ergänzend zu den zentralen Reflexionsfeldern benennt der Deutsche Ethikrat sowie die EU-Kommission folgende ethische Leitlinien und Handlungsempfehlungen für den verantwortungsvollen Einsatz von KI in Bildungskontexten:
 
* '''Mensch im Zentrum:''' Die Entscheidungsautonomie von Lehrkräften und Lernenden muss gewahrt bleiben. KI darf pädagogische Verantwortung nicht ersetzen, sondern nur unterstützen.
 
* '''Fairness, Inklusion und Transparenz:''' KI-Systeme sollen barrierefrei, nachvollziehbar und diskriminierungsfrei sein. Prozesse zur Bewertung und Feedback durch KI müssen erklärbar und gerecht sein.
 
* '''Datenschutz und Datensouveränität:''' Der Einsatz von KI erfordert einen sensiblen Umgang mit Bildungsdaten. Es gilt, Überwachung und Stigmatisierung zu vermeiden und zugleich Chancen für personalisierte Unterstützung verantwortungsvoll zu nutzen.
 
 
Empfehlungen für die Bildungspraxis:
* Ethische Prüfung und eine Chancen-Risiko-Abwägung von KI-Systemen vor dem Einsatz
* Beteiligung aller Bildungsakteur:innen (Lehrkräfte, Studierende)
* Entwicklung von Richtlinien, Qualitätssicherung und Zertifizierung für vertrauenswürdige KI
* Förderung von KI-Kompetenz auf allen Ebenen
 
(<cite id="68b86fe95ecbf">Europaeische+Kommission+2022</cite>, <cite id="68b86fe95ecc3">Ethikrat+2023</cite>)
 
 
<loop_figure id="691d72f7dafb0"><loop_title>KI-Kompetenzbereich 'Reflektieren'</loop_title><loop_description>Die drei Progressionsstufen der KI-Kompetenzbereiche nach Alles et al. 2025 des VK:KIWA. Susanne Alles, Jocha Falck, Manuel Flinck, Regina Schulz, Lizenz: [https://creativecommons.org/licenses/by/4.0/deed.de CC BY 4.0]</loop_description>[[Datei:Reflektieren.png|700px|link=File:Reflektieren.png]]</loop_figure>
 
 
<loop_area type="indentation">
Weitere Informationen sind in dem Bericht der Europäischen Kommission [https://op.europa.eu/en/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-en Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke]  sowie der Stellungnahme des Deutschen Ethikrats [https://www.ethikrat.org/publikationen/stellungnahmen/mensch-und-maschine/ Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz] zu finden.
</loop_area>
 
 
Weiterführende Informationen finden Sie in den folgenden Videos:
<loop_accordion>
<loop_row>
<loop_title>Einführung in die KI-Ethik</loop_title>
<loop_media type="video" title="KI für Alle: Ethik: Einführung in die KI-Ethik" description="In diesem Video lernst du, was wir von AI4All unter KI-Ethik verstehen und bekommst einen kurzen Einblick in die Ethik. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus" copyright="" show_copyright="false" index="true" id="">{{#ev:youtube|c1Fzefev_Xg|500|center|Beschreibung des Videos||}}</loop_media>
</loop_row>
<loop_row>
<loop_title>Automatisierte Entscheidungen & Datendiskriminierung</loop_title>
<loop_media type="video" title="KI für Alle: Ehtik: Automatisierte Entscheidungen & Datendiskriminierung" description="KI hilft uns in vielen wichtigen Bereichen mit großen Datenmengen zurechtzukommen. Gleichzeitig werden aber leider auch immer mehr diskriminierende Effekte durch KIs bekannt, die uns bewusst machen, dass natürlich auch Datensammlungen und Algorithmen Teil der Gesellschaft sind und damit gesellschaftliche Diskriminierung reproduzieren. In diesem Video schauen wir uns an, wie es zu Diskriminierung durch KI-Systeme kommen kann. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus" copyright="" show_copyright="false" index="true" id="">{{#ev:youtube|yNz2894hqwQ|500|center|Beschreibung des Videos||}}</loop_media>
</loop_row>
<loop_row>
<loop_title>Nachhaltigkeit</loop_title>
<loop_media type="video" title="KI für Alle: Ethik: Nachhaltigkeit" description="Heute schauen wir uns an, dass KI-Ethik auch im Bereich Umweltfreundlichkeit und Nachhaltigkeit eine wichtige Rolle spielen kann. Anhand von einigen Emissionszahlen und Anwendungsbeispielen sollt ihr heute lernen, wie KI-Systeme uns helfen können, nachhaltiger mit unserem Planeten umzugehen, aber auch wie KI-Systeme unsere Umwelt belasten können. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus" copyright="" show_copyright="false" index="true" id="">{{#ev:youtube|MBkaIrkTOxU|500|center|Beschreibung des Videos||}}</loop_media>
</loop_row>
<loop_row>
<loop_title>Benachteiligung und blinde Flecken</loop_title>
<loop_media type="video" title="KI für Alle: Ethik: Benachteiligung und blinde Flecken" description="In diesem Video lernt ihr einen blinden Fleck in der KI-Ethik kennen, also ein Risiko, das bislang noch wenig diskutiert wurde: Die sogenannte Klickarbeit. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus" copyright="" show_copyright="false" index="true" id="">{{#ev:youtube|I1aY5-98ku8|500|center|Beschreibung des Videos||}}</loop_media>
</loop_row>
<loop_row>
<loop_title>Transparenz</loop_title>
<loop_media type="video" title="KI für Alle: Ethik: Transparenz" description="Habt ihr euch schonmal gefragt, wie die TikTok Algorithmen euch so präzise Videos empfehlen oder wie ChatGPT zu den Antworten kommt, die es auswirft? In diesem Video erfährst du, wie Transparenz dabei hilft diese Fragen zu beantworten. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus" copyright="" show_copyright="false" index="true" id="">{{#ev:youtube|2YY29FiMlSk|500|center|Beschreibung des Videos||}}</loop_media>
</loop_row>
<loop_row>
<loop_title>Gleichheitsgrundsatz und Diskriminierungsverbote mit Blick auf KI</loop_title>
<loop_media type="video" title="KI für Alle: Ethik: Gleichheitsgrundsatz und Diskriminierungsverbote mit Blick auf KI" description="In diesem Video geht es um die rechtlichen Grundlagen der für den KI-Einsatz relevanten Diskriminierungsverbote. Außerdem beschäftigen wir uns erneut mit den ethischen Implikationen der KI-Diskriminierungsproblematik. Dafür werfen wir zuerst einen Blick auf den Artikel 3 des Grundgesetzes und dann auf das Allgemeine Gleichbehandlungsgesetz. Danach beschäftigen wir uns kurz mit der Frage, wie KI überhaupt diskriminieren kann und schließlich, wie dies mit systemischer Ungleichheit zusammenhängt. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus" copyright="" show_copyright="false" index="true" id="">{{#ev:youtube|1sjFVne3LxY|500|center|Beschreibung des Videos||}}</loop_media>
</loop_row>
</loop_accordion>
 
 
Die Videos stammen unter anderem aus den Kursen [https://ki-campus.org/courses/kifueralle-hhu KI für Alle 1] und [https://ki-campus.org/courses/kifueralle2-hhu KI für Alle 2] der Heinrich-Heine-Universität Düsseldorf, die auf der Lernplattform [https://ki-campus.org KI-Campus] veröffentlicht wurden. Weitere Videos aus diesen Kursen sind [https://www.youtube.com/playlist?list=PLfqMq4NQ2iGV_WekQabvIrN2DWTi7WcIV hier] verfügbar.
 
Weiterführender Kurs:
<loop_accordion>
<loop_row>
<loop_title>Kurs: [https://ki-campus.org/lernangebote/kurse/daten-und-algorithmenethik Daten- und Algorithmenethik]</loop_title>
Inhalt:<br>
* Begriffliche Grundlagen der Daten- und Algorithmenethik
* Überblick über wesentliche Moraltheorien als Verständnis eines kulturell geprägten und damit nicht universell einheitlichen ethischen Denkens
* Formen und Ausprägungen von Daten- und Algorithmenethik in der aktuellen Anwendung von KI-Ansätzen
* Ansätze für eine ethisch korrekte Verarbeitung von Daten und Gestaltung von Algorithmen
* Integrierte Ethik-Games in die einzelnen Lernfolgen und ein übergeordnetes Ethik-Game zum Erfahrbar-Machen dieser Inhalte
 
Lernziele:
Bei Abschluss des Kurses sind Sie in der Lage...
* essentielle Fachbegriffe, theoretische Hintergründe und die Modelle der Daten- und Algorithmenethik zu benennen,
* die Grundlagen kulturell abhängiger ethischer Gestaltungsansätze in der Daten- und Algorithmenethik zu verstehen,
* Beispiele von Daten- und Algorithmenethik in aktuellen KI-Anwendungen differenziert zu verstehen und bewerten zu können,
* Handlungsstränge für die Gestaltung ethisch unbedenklicher Daten und Algorithmen als Grundlage für die Vertrauenswürdigkeit von Design, Implementierung und Nutzung verschiedener KI-Anwendungen ableiten zu können sowie 
* relevante Entscheidungsprozesse im aktuellen KI-Diskurs besser nachvollziehen zu können.
 
Dauer: 7 Wochen à 2 Stunden
 
Anbieter: [https://ki-campus.org/ KI-Campus]
</loop_row>
</loop_accordion>

Aktuelle Version vom 19. November 2025, 08:34 Uhr

Im dritten Kompetenzbereich steht die kritische Auseinandersetzung mit Künstlicher Intelligenz (KI) im Mittelpunkt. Ziel ist es, KI nicht nur als technologisches Werkzeug, sondern als gesellschaftlich relevante Technologie zu verstehen, deren Einsatz mit weitreichenden ethischen, rechtlichen und sozialen Fragestellungen verbunden ist.

Zentrale Inhalte:

  • Entscheidungsfindung und Bias: KI-Systeme basieren auf Trainingsdaten, was sie anfällig für Verzerrungen (Bias) macht, die zu diskriminierenden Ergebnissen führen können, etwa bei Gesichtserkennung oder Sprachmodellen.
  • Ethische Fragestellungen: Im Umgang mit KI müssen zentrale Werte wie Verantwortung, Datenschutz, Transparenz und Rechenschaftspflicht gewahrt bleiben. Lehrkräfte und Lernende müssen reflektieren, wer Entscheidungen trifft – Mensch oder Maschine.
  • Normative Perspektiven: Relevante Rahmenwerke wie der EU AI Act, ethische Richtlinien der EU-Kommission oder des Deutschen Ethikrats bieten Orientierung für einen verantwortungsvollen Umgang mit KI.
  • Gesellschaftliche Auswirkungen: KI beeinflusst zentrale Lebensbereiche: Bildung, Arbeit, Demokratie, Medien. Auch Fragen der sozialen Gerechtigkeit und digitalen Teilhabe sollten berücksichtigt werden.

(Alles et al. 2025)

Ergänzend zu den zentralen Reflexionsfeldern benennt der Deutsche Ethikrat sowie die EU-Kommission folgende ethische Leitlinien und Handlungsempfehlungen für den verantwortungsvollen Einsatz von KI in Bildungskontexten:

  • Mensch im Zentrum: Die Entscheidungsautonomie von Lehrkräften und Lernenden muss gewahrt bleiben. KI darf pädagogische Verantwortung nicht ersetzen, sondern nur unterstützen.
  • Fairness, Inklusion und Transparenz: KI-Systeme sollen barrierefrei, nachvollziehbar und diskriminierungsfrei sein. Prozesse zur Bewertung und Feedback durch KI müssen erklärbar und gerecht sein.
  • Datenschutz und Datensouveränität: Der Einsatz von KI erfordert einen sensiblen Umgang mit Bildungsdaten. Es gilt, Überwachung und Stigmatisierung zu vermeiden und zugleich Chancen für personalisierte Unterstützung verantwortungsvoll zu nutzen.


Empfehlungen für die Bildungspraxis:

  • Ethische Prüfung und eine Chancen-Risiko-Abwägung von KI-Systemen vor dem Einsatz
  • Beteiligung aller Bildungsakteur:innen (Lehrkräfte, Studierende)
  • Entwicklung von Richtlinien, Qualitätssicherung und Zertifizierung für vertrauenswürdige KI
  • Förderung von KI-Kompetenz auf allen Ebenen

(Europaeische Kommission 2022, Ethikrat 2023)


 Abb. 9.5: KI-Kompetenzbereich 'Reflektieren'
Die drei Progressionsstufen der KI-Kompetenzbereiche nach Alles et al. 2025 des VK:KIWA. Susanne Alles, Jocha Falck, Manuel Flinck, Regina Schulz, Lizenz: CC BY 4.0


Vertiefung

Weitere Informationen sind in dem Bericht der Europäischen Kommission Ethische Leitlinien für Lehrkräfte über die Nutzung von KI und Daten für Lehr- und Lernzwecke sowie der Stellungnahme des Deutschen Ethikrats Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz zu finden.


Weiterführende Informationen finden Sie in den folgenden Videos:

YouTube

Wenn Sie dieses Element öffnen, werden Inhalte von externen Dienstleistern geladen und dadurch Ihre IP-Adresse an diese übertragen.

 Med. 9.13: KI für Alle: Ethik: Einführung in die KI-Ethik
In diesem Video lernst du, was wir von AI4All unter KI-Ethik verstehen und bekommst einen kurzen Einblick in die Ethik. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus

YouTube

Wenn Sie dieses Element öffnen, werden Inhalte von externen Dienstleistern geladen und dadurch Ihre IP-Adresse an diese übertragen.

 Med. 9.13: KI für Alle: Ehtik: Automatisierte Entscheidungen & Datendiskriminierung
KI hilft uns in vielen wichtigen Bereichen mit großen Datenmengen zurechtzukommen. Gleichzeitig werden aber leider auch immer mehr diskriminierende Effekte durch KIs bekannt, die uns bewusst machen, dass natürlich auch Datensammlungen und Algorithmen Teil der Gesellschaft sind und damit gesellschaftliche Diskriminierung reproduzieren. In diesem Video schauen wir uns an, wie es zu Diskriminierung durch KI-Systeme kommen kann. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus

YouTube

Wenn Sie dieses Element öffnen, werden Inhalte von externen Dienstleistern geladen und dadurch Ihre IP-Adresse an diese übertragen.

 Med. 9.13: KI für Alle: Ethik: Nachhaltigkeit
Heute schauen wir uns an, dass KI-Ethik auch im Bereich Umweltfreundlichkeit und Nachhaltigkeit eine wichtige Rolle spielen kann. Anhand von einigen Emissionszahlen und Anwendungsbeispielen sollt ihr heute lernen, wie KI-Systeme uns helfen können, nachhaltiger mit unserem Planeten umzugehen, aber auch wie KI-Systeme unsere Umwelt belasten können. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus

YouTube

Wenn Sie dieses Element öffnen, werden Inhalte von externen Dienstleistern geladen und dadurch Ihre IP-Adresse an diese übertragen.

 Med. 9.13: KI für Alle: Ethik: Benachteiligung und blinde Flecken
In diesem Video lernt ihr einen blinden Fleck in der KI-Ethik kennen, also ein Risiko, das bislang noch wenig diskutiert wurde: Die sogenannte Klickarbeit. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus

YouTube

Wenn Sie dieses Element öffnen, werden Inhalte von externen Dienstleistern geladen und dadurch Ihre IP-Adresse an diese übertragen.

 Med. 9.13: KI für Alle: Ethik: Transparenz
Habt ihr euch schonmal gefragt, wie die TikTok Algorithmen euch so präzise Videos empfehlen oder wie ChatGPT zu den Antworten kommt, die es auswirft? In diesem Video erfährst du, wie Transparenz dabei hilft diese Fragen zu beantworten. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus

YouTube

Wenn Sie dieses Element öffnen, werden Inhalte von externen Dienstleistern geladen und dadurch Ihre IP-Adresse an diese übertragen.

 Med. 9.13: KI für Alle: Ethik: Gleichheitsgrundsatz und Diskriminierungsverbote mit Blick auf KI
In diesem Video geht es um die rechtlichen Grundlagen der für den KI-Einsatz relevanten Diskriminierungsverbote. Außerdem beschäftigen wir uns erneut mit den ethischen Implikationen der KI-Diskriminierungsproblematik. Dafür werfen wir zuerst einen Blick auf den Artikel 3 des Grundgesetzes und dann auf das Allgemeine Gleichbehandlungsgesetz. Danach beschäftigen wir uns kurz mit der Frage, wie KI überhaupt diskriminieren kann und schließlich, wie dies mit systemischer Ungleichheit zusammenhängt. Video der Heinrich-Heine-Universität Düsseldorf, veröffentlicht über den KI-Campus


Die Videos stammen unter anderem aus den Kursen KI für Alle 1 und KI für Alle 2 der Heinrich-Heine-Universität Düsseldorf, die auf der Lernplattform KI-Campus veröffentlicht wurden. Weitere Videos aus diesen Kursen sind hier verfügbar.

Weiterführender Kurs:

Inhalt:

  • Begriffliche Grundlagen der Daten- und Algorithmenethik
  • Überblick über wesentliche Moraltheorien als Verständnis eines kulturell geprägten und damit nicht universell einheitlichen ethischen Denkens
  • Formen und Ausprägungen von Daten- und Algorithmenethik in der aktuellen Anwendung von KI-Ansätzen
  • Ansätze für eine ethisch korrekte Verarbeitung von Daten und Gestaltung von Algorithmen
  • Integrierte Ethik-Games in die einzelnen Lernfolgen und ein übergeordnetes Ethik-Game zum Erfahrbar-Machen dieser Inhalte

Lernziele: Bei Abschluss des Kurses sind Sie in der Lage...

  • essentielle Fachbegriffe, theoretische Hintergründe und die Modelle der Daten- und Algorithmenethik zu benennen,
  • die Grundlagen kulturell abhängiger ethischer Gestaltungsansätze in der Daten- und Algorithmenethik zu verstehen,
  • Beispiele von Daten- und Algorithmenethik in aktuellen KI-Anwendungen differenziert zu verstehen und bewerten zu können,
  • Handlungsstränge für die Gestaltung ethisch unbedenklicher Daten und Algorithmen als Grundlage für die Vertrauenswürdigkeit von Design, Implementierung und Nutzung verschiedener KI-Anwendungen ableiten zu können sowie
  • relevante Entscheidungsprozesse im aktuellen KI-Diskurs besser nachvollziehen zu können.

Dauer: 7 Wochen à 2 Stunden

Anbieter: KI-Campus

Abgerufen von „https://thldl.eduloop.de/mediawiki/index.php?title=Reflektieren&oldid=6455“