Skip to content

GCRI · Campaigns

Kompetenz für verantwortungsvolle KI

Künstliche Intelligenz prägt heute, was Menschen lesen, welche Leistungen sie erhalten und wie Inhalte entstehen. Verantwortungsvolle KI-Kompetenz ist ein praktisches Verständnis dafür, was diese Systeme leisten, wo sie versagen und welche Rechte Menschen beim Einsatz haben. Sie umfasst das Erkennen synthetischer Medien, das Beurteilen generierter Antworten und das Wissen, wann automatisierte Entscheidungen hinterfragt werden können. Diese Seite legt dar, wie Missverständnisse über KI entstehen und sich verbreiten, wie Kompetenz gemessen wird und welche Entscheidungen bei Lehrenden, Regulierungsbehörden und Plattformen liegen.

01Registrieren

Verantwortungsvolle KI-Kompetenz dokumentiert.

02Die Frage

Responsible AI literacy: how the risk develops.

Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.

Mechanismus

Fähigkeiten werden falsch eingeschätzt

Menschen vertrauen flüssig formulierten maschinellen Ausgaben zu stark, ein Muster, das als Automatisierungsverzerrungbekannt ist, und verwerfen nützliche Werkzeuge mitunter nach einem einzigen Fehler. Dialogfähige Systeme verleiten dazu, ihnen Verständnis und Absichten zuzuschreiben, die sie nicht haben, was beeinflusst, wie sorgfältig ihre Antworten geprüft werden.

Mechanismus

Provenance blurs

Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.

Mechanismus

Schäden verteilen sich ungleich

Fehler und Verzerrungen in automatisierten Systemen treffen am stärksten Menschen, die sie am wenigsten bemerken oder anfechten können, etwa Leistungsbezieher, Bewerber und Sprecher weniger gut ausgestatteter Sprachen. Bildungsarbeit, die nur selbstsichere Nutzer erreicht, vergrößert diese Kluft.

Mechanismus

Die Nutzung eilt dem Verständnis voraus

Werkzeuge werden am Arbeitsplatz, in Schulen und in öffentlichen Diensten eingeführt, noch bevor Nutzer, Lehrkräfte oder Beschäftigte des öffentlichen Dienstes eine gemeinsame Sprache für deren Grenzen haben. Fehlvorstellungen verbreiten sich durch Ratschläge unter Gleichgestellten und Marketingversprechen und verfestigen sich in der Praxis, bevor es Leitlinien gibt.

03Simulator

Ein Schwellenmodell kollektiven Verhaltens.

Jeder Agent handelt, sobald genügend seiner Kontakte es getan haben; kleine Änderungen der mittleren Schwelle oder der ersten Akteure entscheiden, ob das Verhalten lokal bleibt oder sich kaskadenartig durch die Bevölkerung ausbreitet. Lehrmodell mit angegebenen illustrativen Werten, keine Vorhersage.

Steuerung

Mittlere Schwelle (Anteil der Nachbarn)
18%
Streuung der Schwellenwerte
8 Punkte
Frühe Akteure
2,0 % der Menschen
Kontakte pro Person
8

Messwerte

Anteil derer, die am Ende gehandelt haben
100%
Globale Kaskade
Ja
Schritte bis zur Abwicklung
8
Zahlen, Methoden und Quellen
SchrittAnteil derer, die gehandelt haben (%)
03.3
110.0
226.3
349.3
471.0
588.5
698.8
7100.0
8100.0

Methoden

  1. Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
  2. Global cascades on random networks Watts (2002), PNAS 99
  3. Complex contagions Centola and Macy (2007), American Journal of Sociology 113
  4. One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley

Daten

No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.

Ein Schwellenmodell kollektiven Verhaltens. Illustratives Lehrmodell: Es läuft mit den über die Regler eingestellten Werten, nicht mit Messdaten. Methoden: Schwellenmodelle kollektiven Verhaltens (Granovetter (1978), American Journal of Sociology 83); globale Kaskaden in Zufallsnetzwerken (Watts (2002), PNAS 99); komplexe Ansteckungen (Centola und Macy (2007), American Journal of Sociology 113).
04In den fünf Domänen

AI literacy matters wherever AI enters a domain’s services.

05Methoden und Evidenz

Wie die Kompetenz im Umgang mit verantwortungsvoller KI modelliert, gemessen und getestet wird.

Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.

Systemmodell

Die Kopplungen zwischen den Systemen in Responsible AI literacy: Einflusszeichen, eine verstärkende und eine ausgleichende Schleife sowie Querverbindungen, an denen der Stress sprunghaft ansteigt.

++−+InformationGesellschaftGemeinschaftenWirtschaftR verstärkendB ausgleichend
Causal loop diagram from the page’s systems; signs show the direction of influence. Illustrative structure for a system dynamics or network model, not estimated couplings.
FAIR guiding principles · GO FAIR and FORCE11W3C PROV · World Wide Web ConsortiumGuidance on consistent treatment of uncertainties · IPCCCEOS Analysis Ready Data · Committee on Earth Observation Satellites
06Indikatoren

Was gemessen wird und wie gut.

Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.

IndikatorEinheitTaktQuellentypKennzeichnung
Self-assessed understanding of AIProzent der Befragtenpro ErhebungswelleEurobarometer und nationale UmfragenBERICHTET
Genauigkeit bei der Erkennung synthetischer MedienProzent korrekt in einer kontrollierten Aufgabeje StudieExperimental audience researchBEOBACHTET
Awareness of rights over automated decisionsProzent der Befragtenpro ErhebungswelleNationale und EU-weite ErhebungenBERICHTET
Sorge, echte von gefälschten Inhalten im Internet zu unterscheidenProzent der BefragtenjährlichReuters Institute Digital News ReportBERICHTET
Lehrkräfte mit KI-SchulungProzent der Lehrkräftepro ErhebungszyklusOECD TALIS and education ministriesVeröffentlichte Statistiken
Reported AI incidents involving deception or impersonationVorfälle pro MonatmonatlichAI Incident DatabaseBERICHTET
Maßnahmen zur KI-Kompetenz in der nationalen PolitikAnzahl der Maßnahmen nach TypjährlichOECD.AI-RichtliniendatenbankDEKLARIERT
07Quellen

Woher die Evidenz stammt.

Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.

QuelleWas es liefertLizenzklasse
Eurobarometer surveys on artificial intelligence and the digital decadeAwareness, attitudes and expectations of AI across EU member statesFreie Weiterverwendung bei Namensnennung
Stanford AI IndexJährliche Zusammenstellung von Daten zu KI-Forschung, Einsatz, Politik und öffentlicher MeinungCC BY-ND 4.0
OECD.AI Policy ObservatoryNationale KI-Strategien und politische Maßnahmen, einschließlich Bildung und KompetenzenOECD-Bedingungen, kostenlos mit Namensnennung
AI Incident DatabaseGemeldete Vorfälle mit Schaden oder Beinahe-Schaden im Zusammenhang mit KI- SystemeCC BY-SA 4.0
Reuters Institute Digital News ReportPublic comfort with AI in news and concern about false contentFrei lesbar; Erhebungsdaten auf Anfrage
OECD TALISTeacher training, practice and use of digital toolsOECD-Bedingungen, kostenlos mit Namensnennung
Umfragen des Pew Research Center zu KIÖffentliches Bewusstsein für KI und Einstellungen dazu in mehreren LändernNutzung mit Namensnennung frei; Datensätze auf Anfrage
08Entscheidungen

Wer entscheidet und wozu die Evidenz dient.

Campaigns bereitet Evidenz vor. Die nachstehenden Entscheidungen treffen die genannten Behörden nach ihren eigenen Regeln, niemals die Plattform.

Wer entscheidetDie FrageEvidenz, der diese Seite dient
Bildungsministerien und LehrplanbehördenWhich AI competencies students and teachers need, and at which stagesTeacher training data; competency frameworks; tested teaching material
Aufsichtsbehörden für KI und DatenschutzWie Pflichten zu KI-Kompetenz und Transparenz zu beaufsichtigen sind, etwa Artikel 4 des EU-KI-GesetzesBefragungen zum Bewusstsein; Vorfallsregister; Kompetenzmessungen in der Politik
Online-Plattformen und KI-AnbieterWie synthetische Inhalte gekennzeichnet und Systemgrenzen gegenüber Nutzenden erklärt werdenForschung zum Verständnis von Kennzeichnungen; Vorfallsmuster; Herkunftsstandards
WahlverwaltungsbehördenWie Wählerinnen und Wähler bei Wahlen auf synthetische Medien vorbereitet werdenForschung zu Erkennungsaufgaben; Gerüchteprotokolle; Vertrauen in Wahlinformationen

Ergebnisse, die dieses Thema hervorbringt

  • Praxisnahe Erläuterungen dazu, wie generative und prädiktive Systeme funktionieren und versagen
  • Exercises on checking source and provenance of media, with their limits stated
  • Allgemein verständliche Leitfäden zu Rechten bei automatisierten Entscheidungen nach geltendem Recht
  • Teaching material for educators aligned with UNESCO AI competency frameworks
09Kernfragen

Was Fachleute fragen.

  1. 01

    Was sollte eine Person ohne Fachkenntnisse verstehen?

    Dass KI- Systeme Muster aus Daten lernen, mit großer Sicherheit falsch liegen können und die Grenzen dessen widerspiegeln, womit sie trainiert wurden.

  2. 02

    Welche Risiken sind heute praktikabel?

    Gefälschte Inhalte, Identitätsmissbrauch, automatisierte Fehler in Diensten, Verlust der Privatsphäre und übermäßiges Vertrauen in generierte Antworten.

  3. 03

    Wie können Menschen überprüfen, was sie sehen?

    Gewohnheiten der Überprüfung: Quellen zurückverfolgen, Herkunftssignale beachten und fragen, wem eine Behauptung nützt.

  4. 04

    Welche Rechtsbehelfe bestehen?

    Wie Menschen eine automatisierte Entscheidung infrage stellen, Daten über sich berichtigen oder Missbrauch melden können.

10Mechanismen

Was das Ergebnis bestimmt.

Generative Modelle erzeugen flüssige Texte, Bilder und Audioinhalte, indem sie plausible Ausgaben vorhersagen, nicht indem sie Fakten prüfen. Flüssigkeit weckt Vertrauen, weshalb sich Fehler und Fälschungen verbreiten können. Synthetische Medien senken die Kosten der Identitätsmissbrauch und der Herstellung irreführenden Materials in großem Umfang.

Automatisierte Entscheidungs Systeme bei Kreditvergabe, Einstellung, Sozialleistungen oder Polizeiarbeit können historische Muster in ihren Daten verfestigen, und ihre Begründungen sind mitunter schwer zu erklären. Fehler verteilen sich ungleich, und Betroffene wissen möglicherweise nicht, dass ein automatisiertes System beteiligt war.

Public discussion swings between alarm and hype. Both distort judgement. Literacy work aims for calibrated understanding: what current systems do reliably, where they fail and which safeguards exist.

11Methoden und Grenzen

Wie Evidenz gesammelt wird und wo sie endet.

MethodeWas es zeigtSeine Grenze
Umfragen zu FehlvorstellungenCommon beliefs about how AI worksÜberzeugungen verändern sich mit neuen Werkzeugen schnell
Praktische ÜbungenOb Menschen Fehler oder synthetische Inhalte erkennen könnenErkennungskompetenzen lassen sich möglicherweise nicht auf neue Formate übertragen
FachbegutachtungAccuracy of claims about capabilitiesCapabilities change between review and reading
Follow-up measuresOb Verifizierungsgewohnheiten fortbestehenTeilnehmerschwund und Verzerrung durch Selbstauskunft
12Methoden

Wie es untersucht wird und was die Methoden nicht sagen können.

  1. Sozial- und VerhaltenswissenschaftenZielgruppenforschung vor einer Kampagne · Vortest von Material auf VerständlichkeitHier angewandt
  2. Entscheidungsanalyse unter UnsicherheitKommunizieren, bevor die Evidenz gesichert ist · Kanäle und Zielgruppen wählenHier angewandt
13Where this page’s references

Where this page’s references lead.

Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.

14Fragen

Fragen und Antworten.

Können Menschen lernen, Deepfakes zu erkennen?
Schulung verbessert die Leistung bei einigen Aufgaben, doch hochwertige synthetische Medien sind mit Auge oder Ohr oft nicht zu erkennen. Die Prüfung der Quelle, des Kontexts und jedes Herkunftsnachweises ist zuverlässiger als die Untersuchung des Inhalts selbst.
What is content provenance?
Ein Datensatz, der einer Bild-, Video- oder Audiodatei beigefügt ist und angibt, wie sie erstellt und bearbeitet wurde, etwa Content Credentials nach dem C2PA-Standard. Ein fehlender Datensatz beweist nicht, dass eine Datei gefälscht ist.
Welche Rechte haben Menschen gegenüber automatisierten Entscheidungen?
Das hängt von der Rechtsordnung ab. In der Europäischen Union gewährt das Datenschutzrecht Auskunftsrechte und in vielen Fällen das Recht auf menschliche Überprüfung von Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen. Andere Rechtsordnungen unterscheiden sich.
Does Campaigns rate AI products?
No. It explains how AI systems work and fail in general terms and points to the regulators and standards bodies whose assessments apply.
Bewertet oder beurteilt die Plattform KI-Produkte?
Nein. Sie erklärt in allgemeiner Form, wie KI-Systeme funktionieren und versagen. Sie testet, bewertet oder genehmigt kein Produkt.
Wird KI zur Erstellung von Kampagnenmaterial eingesetzt?
Wo ein Werkzeug unterstützt, wird sein Einsatz offengelegt, und jede Aussage wird vor der Veröffentlichung von einer benannten Prüfperson anhand der Quellen kontrolliert.
Wie bleibt das Material aktuell?
Jede Erläuterung trägt ein Überprüfungsdatum. Ändern sich Fähigkeiten oder Regeln, wird sie überarbeitet und die Änderung als neue Version festgehalten.
BerichteBeitragen

Evidenz von dieser Seite aus beitragen.

Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.

GCRIKampagnenEvidenzpapier
Kampagnen

Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.

Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.