GCRI · Campaigns
Kompetenz für verantwortungsvolle KI
Künstliche Intelligenz prägt heute, was Menschen lesen, welche Leistungen sie erhalten und wie Inhalte entstehen. Verantwortungsvolle KI-Kompetenz ist ein praktisches Verständnis dafür, was diese Systeme leisten, wo sie versagen und welche Rechte Menschen beim Einsatz haben. Sie umfasst das Erkennen synthetischer Medien, das Beurteilen generierter Antworten und das Wissen, wann automatisierte Entscheidungen hinterfragt werden können. Diese Seite legt dar, wie Missverständnisse über KI entstehen und sich verbreiten, wie Kompetenz gemessen wird und welche Entscheidungen bei Lehrenden, Regulierungsbehörden und Plattformen liegen.
Verantwortungsvolle KI-Kompetenz dokumentiert.
Responsible AI literacy: how the risk develops.
Practical understanding of AI risks. The dossier below sets out how the risk develops, what is measured, where the data come from, how it is modelled and who decides.
Fähigkeiten werden falsch eingeschätzt
Menschen vertrauen flüssig formulierten maschinellen Ausgaben zu stark, ein Muster, das als Automatisierungsverzerrungbekannt ist, und verwerfen nützliche Werkzeuge mitunter nach einem einzigen Fehler. Dialogfähige Systeme verleiten dazu, ihnen Verständnis und Absichten zuzuschreiben, die sie nicht haben, was beeinflusst, wie sorgfältig ihre Antworten geprüft werden.
Provenance blurs
Synthetic images, audio and text can be produced cheaply and are hard to tell apart from authentic material. The doubt they create also lets genuine evidence be dismissed as fabricated, a pattern described as the liar’s dividend.
Schäden verteilen sich ungleich
Fehler und Verzerrungen in automatisierten Systemen treffen am stärksten Menschen, die sie am wenigsten bemerken oder anfechten können, etwa Leistungsbezieher, Bewerber und Sprecher weniger gut ausgestatteter Sprachen. Bildungsarbeit, die nur selbstsichere Nutzer erreicht, vergrößert diese Kluft.
Die Nutzung eilt dem Verständnis voraus
Werkzeuge werden am Arbeitsplatz, in Schulen und in öffentlichen Diensten eingeführt, noch bevor Nutzer, Lehrkräfte oder Beschäftigte des öffentlichen Dienstes eine gemeinsame Sprache für deren Grenzen haben. Fehlvorstellungen verbreiten sich durch Ratschläge unter Gleichgestellten und Marketingversprechen und verfestigen sich in der Praxis, bevor es Leitlinien gibt.
Ein Schwellenmodell kollektiven Verhaltens.
Jeder Agent handelt, sobald genügend seiner Kontakte es getan haben; kleine Änderungen der mittleren Schwelle oder der ersten Akteure entscheiden, ob das Verhalten lokal bleibt oder sich kaskadenartig durch die Bevölkerung ausbreitet. Lehrmodell mit angegebenen illustrativen Werten, keine Vorhersage.
Steuerung
- Mittlere Schwelle (Anteil der Nachbarn)
- 18%
- Streuung der Schwellenwerte
- 8 Punkte
- Frühe Akteure
- 2,0 % der Menschen
- Kontakte pro Person
- 8
Messwerte
- Anteil derer, die am Ende gehandelt haben
- 100%
- Globale Kaskade
- Ja
- Schritte bis zur Abwicklung
- 8
Zahlen, Methoden und Quellen
| Schritt | Anteil derer, die gehandelt haben (%) |
|---|---|
| 0 | 3.3 |
| 1 | 10.0 |
| 2 | 26.3 |
| 3 | 49.3 |
| 4 | 71.0 |
| 5 | 88.5 |
| 6 | 98.8 |
| 7 | 100.0 |
| 8 | 100.0 |
Methoden
- Threshold models of collective behaviour Granovetter (1978), American Journal of Sociology 83
- Global cascades on random networks Watts (2002), PNAS 99
- Complex contagions Centola and Macy (2007), American Journal of Sociology 113
- One-at-a-time sensitivity (tornado) Saltelli and others (2008), Global Sensitivity Analysis: The Primer, Wiley
Daten
No observed data enters this model: it runs on the teaching values set by the controls, to be replaced with a programme’s own evidence.
Über die sechs Säulen, unter Leitung von Nexus Consortium
- Experimente Labore
- Built in Campaigns in Foundry
- Tested at Campaigns in Universe
- Kodifiziert in Governance, Sicherheit und Gesellschaft in Standards
- Veröffentlicht in Kampagnen in den Berichten
- Gelehrt in Fakultät für Governance, Politik und internationale Angelegenheiten in der Academy
AI literacy matters wherever AI enters a domain’s services.
- GesundheitIn der PraxisVerstehen, was klinische KI leisten kann und was nicht.Was Lesende prüfen könnenMaße der Kompetenz
- FoodIn practiceJudging advisory tools for farmers.What a reader can checkUse and trust
- WaterIn practiceUnderstanding automated alerts from utilities.What a reader can checkResponse to alerts
Findings are designed for the Exponential Technology series. UNESCO’s Recommendation on the Ethics of AI (2021) includes AI literacy among its policy areas.
- Curricula und Evaluierungen.
- Berichte über KI-Werkzeuge im Alltag.
Wie die Kompetenz im Umgang mit verantwortungsvoller KI modelliert, gemessen und getestet wird.
Das Modell, seine Annahmen, seine Daten und seine Unsicherheit in der Form, in der eine Wissenschaftlerin oder ein Ingenieur sie prüfen würde. Die Strukturen folgen veröffentlichten Methoden. Die dargestellten Werte sind illustrativ, keine Befunde.
Systemmodell
Die Kopplungen zwischen den Systemen in Responsible AI literacy: Einflusszeichen, eine verstärkende und eine ausgleichende Schleife sowie Querverbindungen, an denen der Stress sprunghaft ansteigt.
Was gemessen wird und wie gut.
Jeder Indikator trägt seine Einheit, seinen Rhythmus, die Art der zugrunde liegenden Quelle und die Evidenzkennzeichnung, die ein Wert tragen würde. Es werden keine Werte gezeigt: Ein Programm liefert sie unter seiner eigenen Autorität.
| Indikator | Einheit | Takt | Quellentyp | Kennzeichnung |
|---|---|---|---|---|
| Self-assessed understanding of AI | Prozent der Befragten | pro Erhebungswelle | Eurobarometer und nationale Umfragen | BERICHTET |
| Genauigkeit bei der Erkennung synthetischer Medien | Prozent korrekt in einer kontrollierten Aufgabe | je Studie | Experimental audience research | BEOBACHTET |
| Awareness of rights over automated decisions | Prozent der Befragten | pro Erhebungswelle | Nationale und EU-weite Erhebungen | BERICHTET |
| Sorge, echte von gefälschten Inhalten im Internet zu unterscheiden | Prozent der Befragten | jährlich | Reuters Institute Digital News Report | BERICHTET |
| Lehrkräfte mit KI-Schulung | Prozent der Lehrkräfte | pro Erhebungszyklus | OECD TALIS and education ministries | Veröffentlichte Statistiken |
| Reported AI incidents involving deception or impersonation | Vorfälle pro Monat | monatlich | AI Incident Database | BERICHTET |
| Maßnahmen zur KI-Kompetenz in der nationalen Politik | Anzahl der Maßnahmen nach Typ | jährlich | OECD.AI-Richtliniendatenbank | DEKLARIERT |
Woher die Evidenz stammt.
Benannte öffentliche Datensätze und institutionelle Aufzeichnungen, jeweils mit ihrer Lizenzklasse. Quellen auf Vereinbarungsbasis werden nur zu ihren Bedingungen genutzt und niemals weiterveröffentlicht.
| Quelle | Was es liefert | Lizenzklasse |
|---|---|---|
| Eurobarometer surveys on artificial intelligence and the digital decade | Awareness, attitudes and expectations of AI across EU member states | Freie Weiterverwendung bei Namensnennung |
| Stanford AI Index | Jährliche Zusammenstellung von Daten zu KI-Forschung, Einsatz, Politik und öffentlicher Meinung | CC BY-ND 4.0 |
| OECD.AI Policy Observatory | Nationale KI-Strategien und politische Maßnahmen, einschließlich Bildung und Kompetenzen | OECD-Bedingungen, kostenlos mit Namensnennung |
| AI Incident Database | Gemeldete Vorfälle mit Schaden oder Beinahe-Schaden im Zusammenhang mit KI- Systeme | CC BY-SA 4.0 |
| Reuters Institute Digital News Report | Public comfort with AI in news and concern about false content | Frei lesbar; Erhebungsdaten auf Anfrage |
| OECD TALIS | Teacher training, practice and use of digital tools | OECD-Bedingungen, kostenlos mit Namensnennung |
| Umfragen des Pew Research Center zu KI | Öffentliches Bewusstsein für KI und Einstellungen dazu in mehreren Ländern | Nutzung mit Namensnennung frei; Datensätze auf Anfrage |
Wer entscheidet und wozu die Evidenz dient.
Campaigns bereitet Evidenz vor. Die nachstehenden Entscheidungen treffen die genannten Behörden nach ihren eigenen Regeln, niemals die Plattform.
| Wer entscheidet | Die Frage | Evidenz, der diese Seite dient |
|---|---|---|
| Bildungsministerien und Lehrplanbehörden | Which AI competencies students and teachers need, and at which stages | Teacher training data; competency frameworks; tested teaching material |
| Aufsichtsbehörden für KI und Datenschutz | Wie Pflichten zu KI-Kompetenz und Transparenz zu beaufsichtigen sind, etwa Artikel 4 des EU-KI-Gesetzes | Befragungen zum Bewusstsein; Vorfallsregister; Kompetenzmessungen in der Politik |
| Online-Plattformen und KI-Anbieter | Wie synthetische Inhalte gekennzeichnet und Systemgrenzen gegenüber Nutzenden erklärt werden | Forschung zum Verständnis von Kennzeichnungen; Vorfallsmuster; Herkunftsstandards |
| Wahlverwaltungsbehörden | Wie Wählerinnen und Wähler bei Wahlen auf synthetische Medien vorbereitet werden | Forschung zu Erkennungsaufgaben; Gerüchteprotokolle; Vertrauen in Wahlinformationen |
Ergebnisse, die dieses Thema hervorbringt
- Praxisnahe Erläuterungen dazu, wie generative und prädiktive Systeme funktionieren und versagen
- Exercises on checking source and provenance of media, with their limits stated
- Allgemein verständliche Leitfäden zu Rechten bei automatisierten Entscheidungen nach geltendem Recht
- Teaching material for educators aligned with UNESCO AI competency frameworks
Was Fachleute fragen.
- 01
Was sollte eine Person ohne Fachkenntnisse verstehen?
Dass KI- Systeme Muster aus Daten lernen, mit großer Sicherheit falsch liegen können und die Grenzen dessen widerspiegeln, womit sie trainiert wurden.
- 02
Welche Risiken sind heute praktikabel?
Gefälschte Inhalte, Identitätsmissbrauch, automatisierte Fehler in Diensten, Verlust der Privatsphäre und übermäßiges Vertrauen in generierte Antworten.
- 03
Wie können Menschen überprüfen, was sie sehen?
Gewohnheiten der Überprüfung: Quellen zurückverfolgen, Herkunftssignale beachten und fragen, wem eine Behauptung nützt.
- 04
Welche Rechtsbehelfe bestehen?
Wie Menschen eine automatisierte Entscheidung infrage stellen, Daten über sich berichtigen oder Missbrauch melden können.
Was das Ergebnis bestimmt.
Generative Modelle erzeugen flüssige Texte, Bilder und Audioinhalte, indem sie plausible Ausgaben vorhersagen, nicht indem sie Fakten prüfen. Flüssigkeit weckt Vertrauen, weshalb sich Fehler und Fälschungen verbreiten können. Synthetische Medien senken die Kosten der Identitätsmissbrauch und der Herstellung irreführenden Materials in großem Umfang.
Automatisierte Entscheidungs Systeme bei Kreditvergabe, Einstellung, Sozialleistungen oder Polizeiarbeit können historische Muster in ihren Daten verfestigen, und ihre Begründungen sind mitunter schwer zu erklären. Fehler verteilen sich ungleich, und Betroffene wissen möglicherweise nicht, dass ein automatisiertes System beteiligt war.
Public discussion swings between alarm and hype. Both distort judgement. Literacy work aims for calibrated understanding: what current systems do reliably, where they fail and which safeguards exist.
Wie Evidenz gesammelt wird und wo sie endet.
| Methode | Was es zeigt | Seine Grenze |
|---|---|---|
| Umfragen zu Fehlvorstellungen | Common beliefs about how AI works | Überzeugungen verändern sich mit neuen Werkzeugen schnell |
| Praktische Übungen | Ob Menschen Fehler oder synthetische Inhalte erkennen können | Erkennungskompetenzen lassen sich möglicherweise nicht auf neue Formate übertragen |
| Fachbegutachtung | Accuracy of claims about capabilities | Capabilities change between review and reading |
| Follow-up measures | Ob Verifizierungsgewohnheiten fortbestehen | Teilnehmerschwund und Verzerrung durch Selbstauskunft |
Wie es untersucht wird und was die Methoden nicht sagen können.
Where this page’s references lead.
Die Gremien und Dokumente, vor deren Hintergrund diese Seite gelesen wird. Status und Ausgaben ändern sich; jeder Link führt zur herausgebenden Stelle.
Fragen und Antworten.
Können Menschen lernen, Deepfakes zu erkennen?
What is content provenance?
Welche Rechte haben Menschen gegenüber automatisierten Entscheidungen?
Does Campaigns rate AI products?
Bewertet oder beurteilt die Plattform KI-Produkte?
Wird KI zur Erstellung von Kampagnenmaterial eingesetzt?
Wie bleibt das Material aktuell?
Evidenz von dieser Seite aus beitragen.
Reports ist die vierteljährliche Publikation des Konsortiums. Was Sie über dieses Thema wissen, kann in der nächsten Ausgabe zu Evidenz, einem Fall oder einer Korrektur werden, Ihnen zugeschrieben und unter CC BY 4.0 veröffentlicht, soweit es Ihr eigenes Werk ist.
- E-MailZugang GW-GCRIVon dieser Seite aus sendenEvidenz, eine Korrektur, ein Fall, eine Methode, eine Prüfung, eine Übersetzung oder ein Beitrag zu einem Profil. Sie kommt mit dieser Seite gekennzeichnet an, sodass die zuständige Redaktion sie erhält.
- ZenodoOpen depositDeposit it and submit to the communityPublish your own record on Zenodo with your ORCID iD, then submit it to the Reports community there. Curators review it; the DOI stays yours.
- BerichteGCRIAlle Wege zum Beitragen ansehenDie Beitragsarten, wie jede geprüft wird, welche Nennung Sie erhalten, die Lizenz und was nie angenommen wird.
Senden Sie nie personenbezogene Daten, sensible Infrastrukturdetails oder etwas, das Sie nicht weitergeben dürfen. Ein Beitrag wird vor der Nutzung geprüft; das Einsenden begründet weder Urheberschaft noch redaktionelle Rechte, und Sponsoring erkauft nie ein Ergebnis.
Bringen Sie eine Methode, einen Datensatz oder eine Frage mit.
Information und Anfragen sind heute offen. Eine Anfrage erhält ein Aktenzeichen und nennt den nächsten Schritt; Bewerbungen, Zahlungen, Rechenzuteilungen und Registrierungen öffnen erst, wenn Team, Bedingungen und Prüfkapazität bestehen.
Rechtliche Dokumente.
Karten, Daten und Zahlen auf dieser Website werden zu Kontext- und allgemeinen Informationszwecken gezeigt. Sie sind weder Beratung noch Prognosen oder Warnungen; die Grenzen der Information sind in den Haftungsausschlüssen und Datenhinweisen dargelegt.