Suchergebnisse

In dem Heft "KI als Laboratorium? Ethik als Aufgabe!" setzen sich die Autorinnen und Autoren in sechs Beiträgen interdisziplinär mit einem verantwortungsbewussten Umgang mit Künstlicher Intelligenz (KI) aus verschiedenen Perspektiven auseinander. Themen sind unter anderem Mensch-Maschine-Interaktion, Transparenz von KI-Systemen, Herausforderungen für den Datenschutz, Gesellschafts-Foresightprozesse sowie eine Begriffsdefinition von "ethischer KI".

Die rasante Entwicklung der Künstlichen Intelligenz (KI) hat uns in eine Ära der Innovation und Möglichkeiten geführt. Von selbstfahrenden Autos bis hin zur automatisierten Diagnose in der Medizin hat KI das Potenzial, zahlreiche Bereiche unseres Lebens zu revolutionieren. Diese Entwicklung geht mit ethischen Fragen einher, die sorgfältige Reflexion erfordern. Im folgenden Text möchte ich die wichtige Verbindung zwischen Ethik und Künstlicher Intelligenz untersuchen und die Herausforderungen beleuchten, die sich daraus für unsere Gesellschaft ergeben. Transparenz und Verantwortlichkeit: Eine der grundlegenden ethischen Herausforderungen bei der Nutzung von KI besteht in der Gewährleistung von Transparenz und Verantwortlichkeit. KI-Algorithmen können komplexe Entscheidungen treffen, die für Menschen schwer nachvollziehbar sind. Es ist daher wichtig, dass die Funktionsweise und die verwendeten Datenquellen von KI-Systemen transparent sind, um Diskriminierung, Voreingenommenheit oder Manipulation zu verhindern. Die Verantwortlichkeit liegt bei den Entwicklern und Betreibern, die sicherstellen müssen, dass KI-Systeme ethischen Standards entsprechen und für ihre Handlungen zur Rechenschaft gezogen werden können. Diskriminierung und Voreingenommenheit: KI-Systeme werden auf Grundlage großer Datenmengen trainiert, die von menschlichen Entscheidungen und Verhaltensweisen geprägt sind. Dies kann zu unerwünschter Diskriminierung und Voreingenommenheit führen, wenn KI-Systeme bestehende Vorurteile und Ungleichheiten verstärken. Um ethische Standards zu wahren, müssen Algorithmen daher auf ihre Fairness hin überprüft werden und bei Bedarf Korrekturen und Anpassungen vorgenommen werden. Eine ausgewogene und vielfältige Zusammensetzung der Entwicklerteams kann dazu beitragen, diese Problematik anzugehen. Privatsphäre und Datensicherheit: Die Nutzung von KI erfordert oft den Zugriff auf große Mengen persönlicher Daten. Der Schutz der Privatsphäre und die Gewährleistung der Datensicherheit sind daher von entscheidender Bedeutung. Es muss sichergestellt werden, dass Daten nur mit ausdrücklicher Zustimmung der Betroffenen verwendet werden und dass angemessene Maßnahmen zum Schutz vor Missbrauch und Datenlecks getroffen werden. Es liegt in der Verantwortung der Unternehmen und Regulierungsbehörden, entsprechende Richtlinien und Gesetze zu entwickeln und durchzusetzen.Menschliche Autonomie und Arbeitsplätze: Die zunehmende Automatisierung durch KI kann Auswirkungen auf die menschliche Autonomie und den Arbeitsmarkt haben. Es besteht die Gefahr, dass Menschen in Abhängigkeit von KI-Systemen geraten und ihre Entscheidungsfreiheit eingeschränkt wird. Gleichzeitig könnten bestimmte Arbeitsplätze durch den Einsatz von KI gefährdet sein.Quelle:https://www.ethikrat.org/mitteilungen/mitteilungen/2023/ethikrat-kuenstliche-intelligenz-darf-menschliche-entfaltung-nicht-vermindern/

Die Nutzung von Digital Health und Künstlicher Intelligenz (KI) hat das Potenzial, die Gesundheitsversorgung weltweit zu transformieren, besonders in Regionen mit eingeschränkter medizinischer Infrastruktur. Durch digitale Innovationen können Diagnosen präziser, gesundheitliche Ungleichheiten verringert und die Reichweite medizinischer Versorgung erweitert werden. Datenschutzfragen, ethische Herausforderungen und infrastrukturelle Defizite stellen aber weiterhin signifikante Hürden dar. Um das Potenzial voll auszuschöpfen, sind Kooperationen und verantwortungsvolle Regulierungen unerlässlich.

In der heutigen Diskussion über Künstliche Intelligenz dominieren oft die negativen Aspekte wie Datenschutzbedenken und ethische Herausforderungen. Jedoch sollten die positiven Aspekte sowie das Potenzial, das KI in Bereichen wie Bildung bietet, nicht übersehen werden. Insbesondere als "Lernbuddy" kann KI eine wertvolle Unterstützung für Lernende sein, indem sie personalisiertes Lernen rund um die Uhr ermöglicht, komplexe Fragen beantwortet und Lehrkräfte entlastet. Diese innovativen Einsatzmöglichkeiten bieten vielversprechende Ansätze, um das Lernen effektiver und zugänglicher zu gestalten. KI kann beispielsweiseFragen beantwortenErklärungen sowie Erklärungsansätze angebenbewerten und Feedback liefernLehrmaterial übersetzenDie generativen Fähigkeiten ermöglichen umfassende Antworten auf komplexe Fragestellungen und eine stetige Optimierung.Trotzdem gilt: KI ist ein Werkzeug wie ein Taschenrechner, jeder Benutzer muss beurteilen können, was die KI ausspuckt, und sollte die Angaben auf Richtigkeit überprüfen.Quellen:IU Internationale Hochschule. (2023, 21. September). Mit eigenem KI-Lernbuddy zum Lernerfolg | IU News. https://www.iu.de/news/mit-eigenem-ki-lernbuddy-zum-lernerfolg-iu-personalisiert-bildung-mit-kuenstlicher-intelligenz/https://www.ph-ludwigsburg.de/aktuelles/detail/generative-ki-als-lern-und-lehrbuddy

In einer Welt, die zunehmend von Technologie und Algorithmen geprägt wird, erleben wir eine Vielzahl von Phänomenen, die unsere Neugier wecken und unser Denken anregen. Ein Bereich, der in den letzten Jahren besonders an Bedeutung gewonnen hat, ist die Künstliche Intelligenz (KI). Die rasante Entwicklung von KI-Algorithmen und die undurchsichtigen Entscheidungsprozesse von KI-Systemen haben zu Unsicherheiten und Misstrauen in Bezug auf deren Anwendung geführt.
Dem entgegenwirken möchte der Podcast KI – und jetzt? Wie wir Künstliche Intelligenz leben wollen. Als Ko-Produktion des Rundfunk Berlin-Brandenburg (rbb) und des Deutschen Forschungszentrums für Künstliche Intelligenz (DFK) soll er das Thema KI aus verschiedenen Perspektiven beleuchten und endlich Klarheit schaffen: sei es hinsichtlich technologischer Trends, Entwicklungen in Wirtschaft, Bildung und Gesellschaft oder praktischer KI-Anwendungen im Alltag. Die Aufgabe, sich dem abstrakten und komplexen Thema anzunähern, übernehmen ARD-Journalistin und Moderatorin Nadia Kailouli und Aljoscha Burchardt, Forscher am DFKI, einem der weltweit größten gemeinnützigen Forschungszentren für Künst-liche Intelligenz.
Acht 30-minütige Folgen wurden seit Oktober 2023 veröffentlicht. Darin wird Zuhörenden ein Zusammenspiel aus journalistischer Exper- tise und wissenschaftlichem Know-How zum Thema KI geboten. Das Ergebnis sind spannende und gut recherchierte Folgen, die nicht nur eine fundierte Einordnung von Trends, Entwicklungen und technischen Fortschritten in dem umfangreichen und unübersichtlichen Feld der KI-Technologien bieten, sondern auch eine große Portion Unterhaltung.
Auf abwechslungsreiche, verständliche und unterhaltsame Weise zeigt der Podcast auf, wie wir als Gesellschaft KI so gestalten können, dass sie unseren Zwecken dient und an welchen Stellen kritische Haltungen ihr gegenüber durchaus begründet sind. Unterlegt werden alle Folgen mit spannenden Fallbeispielen, die aufzeigen, welche Auswirkungen KI-Tools auf Gesellschaft, Politik und Medienlandschaft langfristig nach sich ziehen können. Beleuchtet werden dabei immer sowohl Chancen und Potenziale als auch Risiken von KI – von Formen der Manipulation von Inhalten durch derartige Tools bis hin zum Einsatz intelligenter Technologien zur Verbesserung der allgemeinen Verkehrssicherheit.
Abgerundet werden die einzelnen Folgendurch interessante Gastbeiträge, die sowohl Einblicke in die Erforschung von Künstlicher Intelligenz als auch in die praktische Arbeit gewähren. Dabei kommen unterschiedliche Expert*innen zu Wort, so zum Beispiel Dr. Corina Apachiţe, Leiterin der KI-Abteilung von Contential Automotive Technologies, Lajla Fetic, Expertin für Tech Governance und Digital Policy der Bertelsmann Stiftung oder Prof. Dr. Benjamin Paaßen, Juniorprofessor für Wissensrepräsentation und Maschinelles Lernen an der Universität Bielefeld. Das Ergebnis sind spannende Diskussionen über technologische Neuheiten wie KI-generierte Influencer*innen, die zur Vermarktung von Brands wie Calvin Klein oder Prada eingesetzt werden oder intelligente Tools, die bei der Aufklärung von Verbrechen unterstützen können. Durch diese Perspektivenvielfalt bietet jede Folge Raum für unterschiedliche Standpunkte und ermöglicht es den Zuhörenden, eigene Schlussfolgerungen aus den Gesprächen zu ziehen und diese zur weiterführenden Auseinandersetzung und Reflexion zu nutzen.
Auch die absurden oder unterhaltsamen Seiten von KI-Anwendungen kommen nichtzu kurz. In der Rubrik What the KI?! geht es um verblüffende Geschichten, in denen KI menschliche Emotionen imitiert, kuriose Reiseempfehlungen gibt oder sich als lukratives Geschäftsmodell erweist. Diese Beispiele demonstrieren auf eindrückliche Weise, welche kreativen Potenziale KI-Systeme besitzen und wie diese eingesetzt werden können, um menschenähnliche Interaktionen nachzuahmen, zeitaufwändige Aufgaben zu automatisieren oder Verwaltungsprozesse zu optimieren. Gleichzeitig machen die amüsanten Geschichten darauf aufmerksam, welche ethischen oder rechtlichen Herausforderungen die Anwendung solcher Technologien mit sich bringt, ohne dabei einen belehrenden Unterton anzunehmen.
Insgesamt reflektiert der Podcast nicht nur die breiten Anwendungsmöglichkeiten von Künstlicher Intelligenz, sondern zeigt auch auf, wie diese Technologien unterschiedliche Sektoren und Berufsfelder transformieren und welche Aufgaben und Spannungsfelder sich daraus auf gesellschaft-licher Ebene ergeben, die es zukünftig noch stärker in den Blick zu nehmen gilt. Von den Grundlagen der KI-Forschung bis hin zu innovativen Anwendungen im Bildungs- und Marketingbereich bietet der Podcast facettenreiche Perspektiven, aus denen sich spannende Anregungen und Impulse für Forschung und Praxis ableiten lassen.

Das Thema "künstliche Intelligenz" (KI) hat Hochkonjunktur. Diskutiert wird im wesentlichen, was zuvor unter den Schlagworten "Big Data" und "machine learning" abgehandelt wurde. Dass es sich dabei um zentrale Zukunftsthemen handelt, steht außer Frage. Umso erfreulicher, dass das HIIG einen Lernraum zum Thema KI eingerichtet hat: "Why, AI?"Zur Vertiefung der ethischen Aspekte empfiehlt sich der Podcast von SWR2 Wissen Aula mit einem Gespräch mit Catrin Misselhorn zum Thema: "Roboterethik | Der Umgang mit künstlicher Intelligenz muss öffentlich diskutiert werden".

In Die KI-Nation nimmt Fabian Westerheide, einer der führenden KI-Experten Deutschlands, die Leser:innen mit auf eine visionäre Reise durch die Zukunft der künstlichen Intelligenz (KI) in Deutschland und darüber hinaus. Angesichts der rasanten Entwicklungen in den USA und China skizziert Westerheide einen Weg, wie Deutschland nicht nur aufholen, sondern eine führende Rolle in der KI-Revolution und der postfossilen Weltwirtschaft übernehmen kann. Von aktuellen Herausforderungen über ethische Fragen bis hin zu konkreten Handlungsempfehlungen für Politik, Wirtschaft und Gesellschaft - dieses Buch ist ein umfassender Leitfaden für alle, die die Zukunft mitgestalten wollen

Die Fähigkeiten von Künstlicher Intelligenz steigen stetig und mit ihnen auch die /// Potenziale für Unternehmen // .. Wofür der Einsatz Sinn macht, sollte jedes Unternehmen für sich bewerten und entscheiden. Doch wer das nicht aktiv tut, schaut seinem Wettbewerb nur vom Spielfeldrand zu.

Künstliche Intelligenz soll Menschen unterstützen – entsprechend ist der größte Erfolgsfaktor für die Umsetzung von KI-Systemen auch der Mensch selbst. Dabei trifft die neue Technologie auf das komplexe soziale System der Organisation. Dieses gegenseitige Kennenlernen sollte sorgfältig durchdacht und gesteuert werden, denn Akzeptanz und Motivation der Beschäftigten entscheiden schließlich darüber, ob die Lösung der Organisation hilft oder ihr im Weg steht.

Die Digitalisierung hat den Journalismus längst umfassend transformiert. Datenjournalistische Methoden ermöglichen Recherchen in großen Datensätzen sowie interaktive Visualisierungen und automatisierte Dashboards. Und der nächste Entwicklungssprung hat die Medien bereits erfasst: Künstliche Intelligenz versetzt Journalist:innen in die Lage, enorme Datenmengen zu bewältigen und Beiträge zu personalisieren. Welche Erfahrungen wurden bei der Arbeit mit Daten und KI-Systemen im Journalismus gewonnen? Was für Fähigkeiten und Fertigkeiten sollte man dafür mitbringen? Und welche ethischen Fragen sind relevant? Diesen Aspekten widmet sich das Handbuch in über 20 Beiträgen. Die Autor:innen haben den Datenjournalismus mitgeprägt, ihn in Seminaren vermittelt und wissenschaftlich reflektiert. Das Handbuch richtet sich an angehende wie auch erfahrene Journalist:innen sowie an interessierte Forschende

Die beiden Beiträge des Hefts "Vertrauenswürdige KI? Vorausschauende Politik!" mit den ethischen und rechtlichen Herausforderungen Künstlicher Intelligenz (KI) auf europäischer Ebene. Der erste Beitrag liefert einen Kommentar, wie die EU Ethikleitlinien für eine vertrauenswürdige KI um eine rechtliche Perspektive ergänzt werden können. Im zweiten Beitrag werden darüber hinaus Vorschläge für eine vorausschauende europäische Politik für den Umgang mit KI unterbreitet.

Die Digitalisierung hat den Journalismus längst umfassend transformiert. Datenjournalistische Methoden ermöglichen Recherchen in großen Datensätzen sowie interaktive Visualisierungen und automatisierte Dashboards. Und der nächste Entwicklungssprung hat die Medien bereits erfasst: Künstliche Intelligenz versetzt Journalist:innen in die Lage, enorme Datenmengen zu bewältigen und Beiträge zu personalisieren. Welche Erfahrungen wurden bei der Arbeit mit Daten und KI-Systemen im Journalismus gewonnen? Was für Fähigkeiten und Fertigkeiten sollte man dafür mitbringen? Und welche ethischen Fragen sind relevant? Diesen Aspekten widmet sich das Handbuch in über 20 Beiträgen. Die Autor:innen haben den Datenjournalismus mitgeprägt, ihn in Seminaren vermittelt und wissenschaftlich reflektiert. Das Handbuch richtet sich an angehende wie auch erfahrene Journalist:innen sowie an interessierte Forschende.

Was darf KI eigentlich? Unser Leben wird zunehmend von Künstlicher Intelligenz (KI) und Robotik beeinflusst. Autonome Fahrzeuge kommen auf unsere Straßen, Roboter werden für eine Vielzahl von Aufgaben im Gesundheitswesen vorgeschlagen – von der Unterstützung älterer Menschen bis zum Einsatz bei Operationen – und Algorithmen entscheiden über Kreditanträge sowie sogar über den Einsatz automatischer Waffensysteme. Viele Menschen befürchten, dass KI langfristig die Kontrolle über unser Leben übernimmt. Vor diesem Hintergrund wird es immer wichtiger, die ethischen Grundlagen und Auswirkungen des Einsatzes von KI und Robotik in unserer Gesellschaft zu diskutieren. Dieses Buch bietet eine Einführung in das Thema, die keine technischen, rechtlichen oder philosophischen Kenntnisse voraussetzt. Es behandelt Fragen des Vertrauens, der Verantwortung, der Haftung, des Datenschutzes und des Risikos in der Beziehung der Nutzer zu KI-Systemen und Robotik. Die Autoren veranschaulichen die Themen im gesamten Buch anhand von Beispielen. Am jeweiligen Kapitelende befinden sich Fragen, die zur Diskussion von KI-Anwendungen einladen, von der Gesundheitsfürsorge bis zur Kriegsführung. Weiterführende Literatur dient ebenfalls als Anregung für den Leser. Aus dem Inhalt: - Was ist KI? - Was ist Ethik? - Fairness und Vertrauen in KI-Systeme - Verantwortung und Haftung bei KI-Systemen - Risiken der KI für Unternehmen - Psychologische Aspekte der KI - Privatsphäre und KI - Human Enhancement - Autonome Fahrzeuge - Militärische Anwendungen der KI

Vor 80 Jahren, als die ersten funktionierenden Computer gebaut wurden, kam eine neue Art der Maschine auf die Welt: Sie konnte in gewisser Weise mit Symbolen und Zeichen operieren und beherrschte formale Logik und Mathematik. Es gab nur wenige davon, sie waren riesengroß und der Zugang war Wissenschaftler*innen vorbehalten. Die gesellschaftliche Bedeutung lag – wie Konrad Zuse es formulierte – darin, "dem Ingenieur stures Wiederholen von Rechengängen abzunehmen" (Zuse 1993, S. 33) und den zuvor menschlichen 'Computer' durch eine Maschine zu ersetzen. Die damalige Rede von 'Elektronengehirn' und 'Denkmaschine' lag nahe. Gleichzeitig aber regten diese Begriffe die Fantasie vieler Menschen an. Auch in Literatur, Kino und Fernsehen wurden immer neue Geschichten erzählt, die an den Potenzialen dieser Maschinen anknüpften – unabhängig davon, ob das realistisch war oder nicht.
Heute haben sich diese Maschinen als Laptops, Tablets, Smartphones, stationäre Kleincomputer und große Server, die im Hintergrund arbeiten, in riesiger Zahl über die Welt verbreitet. Sie haben sich in nahezu allen Lebens- und Arbeitsbereichen eingenistet, können im Prinzip von allen genutzt werden und sind in vielfacher Weise vernetzt. Parallel dazu entstand seit 1956 eine neue Wissenschaftsdisziplin, oft auch als Teildisziplin der Informatik verstanden, unter dem Titel 'Künstliche Intelligenz' (KI). Sie arbeitet an computerbasierten Systemen, die Leistungen erbringen sollen, die bisher nur von Menschen erwartet worden sind: Schach spielen, Autos steuern, Gespräche führen, Muster und Gesichter erkennen, Spezialist*innen bei der Arbeit behilflich sein. Dialogsysteme wie Alexa, Siri, Cortanaund andere sind heute in vielen Haushalten in Gebrauch; immer mehr Bereiche menschlichen Alltags, auch von Ökonomie, Arbeit, Politik, Bildung, Wissenschaft und Forschung, werden von Computern und zunehmend auch von dieser sogenannten Künstlichen Intelligenz geprägt und durchdrungen. Ein Ende dieser Entwicklungen ist nicht abzusehen. Im Hinblick auf den Einsatz dieser KI werden viele Bereiche auch in neuer Weise organisiert: zum Beispiel die Arbeit in Fabriken und Verwaltung, die Diagnosen und Operationen in der Medizin, das Einkaufen, das Lernen und Vieles mehr.
Einigermaßen unklar ist allerdings, wohin diese Reise die Menschheit führt. Die Transformationen beinhalten wie jeder Wandel einerseits Vorteile und Chancen für das Zusammenleben der Menschen, zum Beispiel, wenn gefährliche oder unangenehme Arbeiten von Computern übernommen werden können oder neue Formen von Kommunikation und Information entstehen, an denen Roboter beteiligt sind. Sie beinhalten aber auch Risiken und Gefahren: Wie werden zukünftig Einkommen und Status verteilt, wenn immer mehr Jobs von KI übernommen werden? Wie wird garantiert, dass Kommunikation und Information nicht zu Manipulation und Beeinflussung werden? Wie kann verhindert werden, dass die Grundlagen der Demokratie durch datenbasierte Kontrolle und überlegene Technologien bedroht werden, die allein den ökonomischen Interessen großer IT-Konzerne folgen? Wo und von wem sollen die Entwicklungen kontrolliert und verantwortet werden?
Ein konkretes Beispiel für Vorzüge, aber auch Probleme ist die auf KI gestützte Entwicklung selbstfahrender Autos, die auf uns zukommt. Solche Automobile können dazu beitragen, dass verstopfte Städte, die sich immer deutlicher abzeichnende Umweltkatastrophe und die aus dem Ruder laufenden Bedingungen räumlicher Mobilität in neue und menschengerechtere Bahnen gelenkt werden, dass es weniger Unfälle gibt und dass die im Auto verbrachte Zeit sinnvoller genutzt werden kann. Dafür sind hervorragende und sichere KI-Programme unerlässlich, die mit menschlichen Kompetenzen vergleich-bare Fähigkeiten haben. Sie müssen mit ihren Sensoren und der Auswertung der darüber erlangten Daten menschliche Wahrnehmung ersetzen und unter den jeweiligen Bedingungen Gas geben, bremsen oder ausweichen – bei Menschen würde man sagen, entsprechende Entscheidungen treffen.
Mit den Algorithmen und der Technik alleine ist es aber nicht getan. Wer wird diese kommende Mobilität gesamtgesellschaftlich organisieren und betreiben – werden es Unternehmen wie VW und UBER sein, die den zukünftigen Verkehr organisieren, zwei Unternehmen, die nicht dafür bekannt sind, dass sie Recht und Gesetz einhalten, wenn es um ihre Gewinne geht? Oder wird die zukünf-tige Mobilität als öffentliche Daseinsfürsorge unter parlamentarischer Kontrolle organisiert – das ist bei einigen öffentlichen Infrastrukturen im (Nah-)Verkehr in einigen Ländern Europas teilweise noch der Fall, häufig wurden und werden solche Infrastrukturen aber wie bei der Wasserversorgung oder im Gesundheitsbereich im Zuge des Neoliberalismus mehr und mehr privatisiert.
Nicht klar ist auch, wie solche Autos mit den typischen, bisher meist nur von der Philosophie diskutierten Dilemmata umgehen: Der Wagen fährt auf einer Bergstraße, vor ihm erscheint plötzlich ein Kind, rechts geht es in den Abgrund – was geschieht, wenn das selbstfahrende Auto nicht mehr bremsen kann? Menschen entscheiden in solchen Situationen individuell und müssen für ihre Entscheidungen moralisch wie strafrechtlich geradestehen. Aber ist es denkbar, dass ein von einer Software gesteuertes Auto entscheidet, dass der Wagen sich und seine Passagiere in den Abgrund steuert, um das Kind zu retten? Oder verliert zukünftig immer das Kind?
Es gibt inzwischen zahlreiche Studien, die zeigen, dass manches auch schief gehen kann, wenn es Maschinen sind, die 'entscheiden' (vgl. hierzu allgemein Rath/Karmasin/Krotz 2019 und insbesondere Saurwein 2019): So hat Microsoft den Gesprächsroboter Tay entwickelt und eingesetzt, der sich nach ein paar Stunden des Dialogs mit Menschen zu antisemitischen Aussagen verstieg und Hitler positiv würdigte. In China wird die KI-basierte Gesichtserkennung von der Polizei in Fällen nicht-systemkonformen Verhaltens eingesetzt. Jedem Menschen dort wird auf Basis der über ihn gesammelten Daten ein Punktwert zugeordnet, der letztlich dessen gesellschaftlichen Wert ausdrücken soll und wonach entsprechend belohnt oder bestraft wird. In den USA wurde von der Justiz ein KI-Programm eingesetzt, das prognostizieren sollte, ob ein Strafgefangener, wenn er begnadigt würde, wohl rückfällig wird, also besser nicht zu begnadigen ist: Dieser Algorithmus wurde mit vorliegenden Daten trainiert. Im Endeffekt wurden die Aussichten für schwarze Häftlinge in der Regel wesentlich schlechter prognostiziert als für weiße. Algorithmen, die bei der Auswahl von Bewerber*innen für einen Job helfen sollten, bewerteten Frauen in der Regel schlechter, weil sie bisher seltener in Führungspositionen aufsteigen.KI wird derzeit vor allem von den großen Digitalunternehmen wie Facebook, Google, Apple, Amazon, Microsoft und Uber, aber auch von den Militärs vorangetrieben, mehr und mehr auch von chinesischen Unternehmen, die die Entwicklungsrichtungen bestimmen und entsprechende Instrumente und Methoden einsetzen. Heute werden so die Rahmenbedingungen für zukünftige Entscheidungen festgelegt.
Es sind Staat und Politik, die zunächst gefordert sind, diese Prozesse zu kontrollieren und zu regulieren, Rahmenbedingungen zu setzen und zu klären, welchen ethischen Kriterien Algorithmen zu folgen haben. Gleichzeitig ist es die Aufgabe von uns allen, diese Entwicklungen im Auge zu behalten. Schon heute sind wir alle durch die Daten, die wir in den unterschiedlichsten Kontexten an Soziale Netzwerke oder andere Datensammelsoftware preisgeben, an der Entwicklung moderner KI beteiligt. Ohne unser heutiges unbewusstes Zutun könnten die Algorithmen nicht 'lernen', sie entwickeln sich durch das Sammeln und Analysieren der von uns eingegebenen Daten und durch unsere Rückmeldungen. Moderne KI speist sich daraus und nur noch zu einem Teil aus intelligenten Algorithmen, die sich Entwickler*innen ausdenken. Oft ist bei den heutigen KI-Systemen nicht vollständig zu klären, wie sie zu ihren Ergebnissen kommen. Sie nutzen Formen 'Maschinellen Lernens', sodass die Muster, die aus der Interaktion mit Umwelt und Nutzer*innen abgeleitet sind, selbst für die Entwickler*innen nicht mehr nachvollziehbar sind. Wollen wir solche Entscheidungen? Brauchen wir nicht prinzipiell Kontrolle und Transparenz darüber, wie die Maschinen zu ihren 'Entscheidungen' kommen, um sie hinterfragen zu können? Müssen wir nicht auch die Konzerne und ihre Logik der Ökonomie im Auge behalten, die hinter der Entwicklung und Anwendung von KI stehen?
Es bedarf politischer und ethisch begründeter Entscheidungen, was KI darf und was nicht, wo sie eingesetzt wird und welche Bedingungen sie erfüllen muss. Diese wiederum dürfen nicht nur Staat und Wirtschaft untereinander aushandeln, vielmehr muss in einer gelebten Demokratie eine kontinuierliche öffentliche Diskussion darüber geführt werden, wie sie in Deutschland vom Ethikrat, in Europa von der Europäischen Kommission und dem Europäischen Parlament, weltweit auch von UNO und UNESCO begonnen wurde, aber bisher kaum eine breite Öffentlichkeit erreicht hat. Das Entstehen einer kritischen Öffentlichkeit, die sich mit diesen Fragen auseinandersetzt, ist entscheidend. Dazu müssen Bürger*innen zunächst über diese technologischen und ökonomischen Entwicklungen informiert werden, damit sie in der Lage sind, an den Entscheidungen mitzuwirken.
Eine Voraussetzung dafür, dass wir selbst in die Prozesse eingreifen, einen Rahmen setzen und sie mitgestalten können ist, dass wir uns unserer eigenen Beteiligung an der Schaffung der Digitalen Kultur durch unsere Interaktion bewusst werden, dass wir lernen zu verstehen, was da wann, wie und an welchen Orten passiert. Dies gilt insbesondere auch für die zukünftigen Generationen. Kinder und Jugendliche werden in durch die Technologie sehr veränderten sozialen und kulturellen Umgebungen aufwachsen, die von ihnen verstanden und durchschaut werden müssen. Sie müssen (weit mehr noch als die derzeitigen Erwachsenen) diese Entwicklungen verstehen, gestalten, kontrollieren und sie souverän verwenden können.
Damit ist das Schwerpunktthema des vorliegenden merz-Heftes angesprochen. Es geht um KI, um einen ethischen Rahmen für KI und darum, wie Lernen über KI stattfinden kann: Was kann KI, was soll KI, was darf KI, wohin soll die Reise mit KI gehen? Diese Themen müssen in die Medienpädagogik Einzug halten, weil sie von fundamentaler Bedeutung für unsere mediale Kultur und unseren Umgang mit den Medien sind.
Das Heft setzt sich mit diesen Themen eher grundlegend auseinander und versucht zu verdeutlichen, was hinter dem oft schon fast mystisch verwendeten Begriff der KI tatsächlich stattfindet und wie Medienpädagogik bzw. wie eine Pädagogik unter Bedingungen einer KI-Umwelt damit umgehen kann. Dabei soll es nicht darum gehen, Kinder und Jugendliche für ein Schritthalten mit den technologischen Entwicklungen fit zu machen. Ein amerikanisches Unternehmen, das einen Online-Kurs zu KI für Kids im Netz für 15 bis 240 Dollar – je nach Service – anbietet, wirbt für das Angebot: "Artificial intelligence and machine learning are going to become a huge part of our future. And kids need to be prepared for it. To make them AI-ready for the future, we've designed an online AI course for kids of the 21st-century". Es wird versprochen, dass Kids durch den Kurs "fall in love with artificial intelligence"1. Darum geht es den Autor*innen dieses Heftes nicht. Sie wollen demgegenüber – auch spielerisch – Kenntnisse und Kompetenzen vermitteln, die junge Menschen befähigen, selbst zu urteilen und Verantwortung für die Zukunft zu übernehmen, statt sich an die von den Konzernen entwickelte KI anzupassen.
In einem ersten Aufsatz beschäftigen sich Serge Autexier und Heidi Schelhowe aus der Innensicht der Informatik in einer nachdenklichen Weise mit der Entstehung und der bisherigen Geschichte der KI. Sie erklären, was es mit der heutigen KI und ihrem rasanten Aufstieg unter dem Begriff des 'Maschinellen Lernens' auf sich hat und problematisieren die schlichte Datensammelwut und die automatisierte Erkennung von Mustern durch KI statt einer grundlegenden Entwicklung und Durchdringung der Algorithmen, durch die wissenschaftlicher Fortschritt und Transparenz erst möglich würden. Gleichzeitig weisen sie darauf hin, welche Vorstellungen vom 'Lernen' die KI von Anfang an prägen. Ein vom Konstruktivismus geprägter Ansatz von Lernen, so die beiden Autor*innen, würde auch eine andere Art der Anwendung und des Umgangs mit KI in Bildungskontexten bedeuten, anders als der Glaube, dass man mit der KI einem individualisierten Lernen gerecht werden könne.
Der dann folgende Text von Friedrich Krotz hinterfragt KI auf grundsätzliche Weise mit dem Ziel, einerseits die Diskussion zu versachlichen, andererseits um herauszuarbeiten, dass manche Entwicklungen in eine falsche Richtung gehen. KI ist in der hier eingenommenen Perspektive wesentlich damit beschäftigt, komplexe Hardware/Software-Systeme zur Bewältigung komplexer Aufgaben zu schaffen. Für solche Leistungen von Maschinen müssen aber noch eine angemessene Sprache und eine kontrollierte gesellschaftliche Einbettung gefunden werden – eine Vermenschlichung von Maschinen ist dafür nicht angebracht: Maschinen denken und entscheiden nicht, sie gehen auf eine maschinentypische Art mit Daten um. Als Problem benennt Friedrich Krotz, dass es derzeit vor allem die großen Digitalfirmen sind, die festlegen, wo und wie KI verwendet wird und wohin die derzeitige Entwicklung geht. Stattdessen wäre es notwendig, Systeme zu entwickeln, die für die Menschen, für Demokratie und Menschenrechte hilfreich sind.
Der dritte Aufsatz von Gudrun Marci-Boehnke und Matthias Rath beschäftigt sich schließlich mit KI und Ethik. Er geht von der Prämisse aus, dass die Leistungsfähigkeit von KI für das Wohl der Menschen nutzbar gemacht werden muss und dass dies auch die Erziehungsarbeit betrifft. Vor diesem Hintergrund werden Chancen, Probleme und Risiken der KI aus ethischer und pädagogischer Perspektive dargestellt und diskutiert. Als Schlüsselbegriff für die zukünftigen Diskussionen wird der Begriff der algorithmic literacy entwickelt, der an den bisher die Medienpädagogik prägenden Kompetenzkonzepten ansetzt.
Zwei weitere Beiträge gehen dann auf konkrete Projekte mit Kindern und Jugendlichen ein. Der erste Beitrag von Simone Opel, Lina Nordemann, Carsten Schulte und Claudia Tenberge entstand im Rahmen des 'Wissenschaftsjahrs KI' und befasst sich mit dem Simulationsspiel Mensch, Maschine!, mit dem Kinder und Jugendliche die Funktionsweisen von KI kennenlernen und konkret erfahren können, was Maschinen können und was nicht. Dazu wurden Materialien für Schüler*innen sowie für Lehrende entwickelt und bereitgestellt, die unterschiedliche Zugänge ermöglichen. Darüber hinaus werden Evaluationsergebnisse aufbereitet. Das Material ist konzipiert für den Schulunterricht, lässt sich aber aufgrund seiner Vielfalt sicherlich auch in der außerschulischen Jugendarbeit verwenden. Über webdaysmoocKI, ein Projekt der Fachstelle für Internationale Jugendarbeit der Bundesrepublik Deutschland e. V. (IJAB), berichten Janina Carmesin, Hannah Bunke-Emden und Kristin Narr. Es handelt sich um einen Online-Kurs zu KI für Jugendliche ab 14 Jahren. Die Materialien stehen dauerhaft zur Verfügung. Besonders interessant ist, dass der Kurs partizipativ zusammen mit Jugendlichen entwickelt wurde. Die Jugendlichen setzen sich mit KI in ihrem Alltag auseinander, stellen sich ethischen Fragen und bekommen einen Einblick in Entwicklungen der KI-Technologie weltweit.
Schließlich wird in einigen Auszügen auf weitere Materialien verwiesen. Dies sind einmal Auszüge aus dem Grundlagenpapier, das von der Ethik-Kommission, eingesetzt von der Bundesregierung, erarbeitet wurde. Es ermöglicht einen systematischen und kritisch reflektierenden Einstieg in die Thematik. Zum anderen sind es Ausschnitte aus einer von der UN veranstalteten Wissenschaftler*innenkonferenz von 2019, auf der ein Papier mit dem Titel 'Bejing Consensus on Artificial Intelligence and Education' erarbeitet wurde. Es macht die internationale Aufmerksamkeit für das Thema KI deutlich. Schließlich wird noch auf weitere Projekte und weiterführende Literatur verwiesen.Wenn die Autor*innen in den Beiträgen dieses Heftes sich in einem einig sind, dann ist es die Forderung nach einer fundamentalen Kompetenz, KI und deren ethische Implikationen begreifen zu lernen, was technologisches Wissen, Wissen um Daten und Algorithmen und die Fundamente der heutigen KI, aber auch grundlegende ethische Fragen umfasst, wie auch politischen und ökonomischen Durchblick erfordert. Klar ist, dass dieses Thema wohl nicht zum letzten Mal in der merz verhandelt werden wird.
Anmerkung 1 https://thestempedia.com