Rückblick: Orientierung in der Digitalen Welt – Tagung rund um Google, TikTok & Co
Anfang März luden die Evangelische Akademie Tutzing und die Open Search Foundation zu einer Tagung rund um die Orientierung in der digitalen Welt. Die Teilnehmenden diskutierten mit Bestseller-Autoren und Expertinnen aus ganz Deutschland über gesellschaftliche, digitalpolitische und ethische Aspekte von Suchmaschinen, Social Media und künstlicher Intelligenz.
„Vertrauen ist die Basis für gelingende Kooperation“
Der Philosoph und Autor Dr. Nicolas Dierks eröffnete die Tagung mit einem Vortrag über „Ethik als Orientierung im digitalen Wandel“. Er definierte Ethik als „Dialog darüber, was wir zurecht voneinander erwarten können“ und nahm das Publikum anschließend mit auf eine philosophische Reise. Im Mittelpunkt seines Vortrags standen vor allem die Werte Vertrauen, Verantwortung und Transparenz. Anhand von Beispielen macht Dierks deutlich, dass wir alle einen ethischen Kompass in uns tragen.
Er lud das Publikum zu eigenen Gedankenexperimenten ein (angelehnt an Amartya Sens Flötenbeispiel „Die Idee der Gerechtigkeit“). Eine Erkenntnis: Ethik bietet keine Patentrezepte, wichtig sind vielmehr der Dialog und das Ringen um Werte. Die Aufgabe Digitaler Ethik sei es, so Dierks, zu fragen: „Ist es denn gut so? Wollen wir das so?“
„Die Aufgabe Digitaler Ethik ist es zu fragen: ‚Ist es denn gut so?‘“ – Dr. Nicolas Dierks, Philosoph und Autor
Für Dierks ist Verantwortung ein zentraler Wert für eine gelingende Digitalisierung. Er definierte Verantwortung als „moralische Verpflichtung, das eigene Handeln und Entscheiden gegenüber anderen im Dialog zu begründen und zu teilen“. Erst wenn klar sei, dass man verantwortlich ist, wofür man verantwortlich ist und wem gegenüber man verantwortlich ist, entstehe echte Verantwortung, stellte er mit Blick auf digitale Plattformen fest.
Was braucht es also, damit Menschen einem vertrauen? Die Antwort sei eigentlich ganz einfach, erklärte Dierks: „Sich vertrauenswürdig verhalten.“
[Der Vortrag von Nicolas Dierks steht als Aufzeichnung via Youtube zur Verfügung.]
„Wir brauchen ein Upgrade für eine gerechte digitale Gesellschaft“
Lajla Fetic räumte mit Mythen rund um künstliche Intelligenz auf: KI ist Magie? Algorithmen sind neutral? Europäische KI-Modelle sind besser? – Die Expertin für Digitalpolitik und gesellschaftliche Auswirkungen von KI und algorithmenbasierten Technologien erklärte anhand konkreter Beispielen, dass Algorithmen und KI weder das eine noch das andere sind, sondern von Menschen gemacht sind und auf menschlichen Entscheidungen basieren.
Warum „die Chancen und Risiken der digitalen Gesellschaft ungleich verteilt sind“ zeigte sie eindrucksvoll anhand der Algorithmen-basierten Armutsbekämpfung in Jordanien. Das dort eingesetzte automatisierte Geldtransferprogramm „Takaful“ der Weltbank berge jede Menge Probleme, erklärte sie. So konnte eine arme Familie keine Unterstützung beantragen, weil sie mit ihrer Arbeit weniger verdiente als sie zum Leben brauchte: Die Anwendung erlaubte es schlicht nicht, ein negatives Einkommen einzugeben. (Hintergrundinformationen zu diesem Beispiel im Artikel von Human Rights Watch)
Algorithmische Verzerrungen, schlechte Ergebnisse, mangelnde Nachhaltigkeit … Große Sprachmodelle (Large Language Models) haben derzeit viele Schwächen. Lajla Fetic stellte einige vor und bezog sich dabei unter anderem auf die Forschung von Timnit Gebru und Emily Bender. In ihrem Artikel über „stochastische Papageien“ („On the Dangers of Stochastic Parrots“) warnten die renommierten Ethikexpertinnen vor den Gefahren großer Sprachmodelle bereits 2020.
Generell sei es harte Arbeit, KI-Modelle transparent, nachvollziehbar und erklärbar zu machen, erklärte Lajla Fetic. Das sei auch einer der Gründe, warum europäische KI-Anwendungen nicht unbedingt besser seien als US-amerikanische.
Wie kann es also gelingen, eine gerechte digitale Gesellschaft zu gestalten? Lajla Fetic nannte einige „Rezepte“, um auf Algorithmen basierende Anwendungen gerechter zu gestalten, so etwa:
- Anerkennen, dass die digitale Transformation auch eine soziale Transformation sei und dass Algorithmen und KI als soziale Werkzeuge und nicht als neutrale Elemente verstanden werden müssen
- Vorab überlegen, ob eine Anwendung mit Algorithmen oder künstlicher Intelligenz für den gewünschten Zweck überhaupt notwendig und sinnvoll ist
- Nicht für Menschen, sondern mit Menschen entwickeln, das heißt Beteiligte und Betroffene von Anfang an in die Entwicklung von Anwendungen einbeziehen – so könnten grundlegende Fehler vermieden werden (wie zum Beispiel der oben erwähnte Fall aus Jordanien)
Ein Fazit von Lajla Fetic: die Verantwortung muss von den Verantwortlichen eingefordert werden, denn „es gibt Risiken, die wir adressieren müssen. Aber dafür müssen vor allem diejenigen Verantwortung übernehmen, die von den Systemen profitieren.“
„Wir brauchen ein Upgrade für eine gerechte digitale Gesellschaft.“ – Lajla Fetc
Workshops rund um Social Media und „Fake News“, rechtliche Aspekte der Digitalisierung, „digitale Literacy“ und Künstliche Intelligenz
Nach kurzen Einführungen in die Workshopthemen starteten die Workshops, in denen die Tagungsbesucherinnen und -besucher in kleinen Gruppen ihr Wissen vertiefen und Fragen stellen konnten.
Prof. Dr. Melanie Platz zeigt anhand von „Bubble Sort“, wie Algorithmen funktionieren und warum sie schwer zu durchschauen sind.
Im Workshop „Bildung und Literacy“ zeigte Prof. Dr. Melanie Platz von der Universität des Saarlandes anhand praktischer Übungen, wie algorithmische Sortierungen funktionieren. Ganz praktisch und spielerisch wurde mit „Bubble Sort“ deutlich, dass Algorithmen von Menschen gemacht sind und meist nicht klar ist, nach welchen Kriterien sortiert wurde.
Algorithmisches Sortieren in der Praxis
Im Workshop von Prof. Dr. Alexander Decker, Medienprofessor an der Technischen Hochschule Ingolstadt, untersuchten die Teilnehmerinnen und Teilnehmer, warum wir alle leicht auf Desinformation und sogenannte Fake News hereinfallen, wie wir unseriöse Nachrichten erkennen – und: was wir in Sachen Desinformation von Donald Trump „lernen“ können.
Prof. Dr. Alexander Decker: „Auf Fake News und Desinformation können wir alle hereinfallen“.
Prof. Dr. Matthias Wendland, Rechtsprofessor an der Universität Oldenburg, diskutierte mit den Workshopteilnehmer:innen über rechtliche Rahmenbedingungen wie die Datenschutzgrundverordnung und die europäische Gesetzeslage sowie die Bedeutung von Regulierung.
Recht, Gesetze und Digitalisierung in der Praxis: Prof. Dr. Matthias Wendland, LL.M. (Harvard), Inhaber des Lehrstuhls für Informationsrecht an der Universität Oldenburg, Berater, Referent; Forschungsschwerpunkt Ethik und Regulierung von KI, Oldenburg
Lajla Fetic, die bereits einen Vortrag zu den gesellschaftlichen Auswirkungen von KI gehalten hatte (siehe oben), öffnete die Türen weit für Fragen und ließ die Teilnehmenden an ihrem Wissens- und Erfahrungsschatz teilhaben. Ganz nach dem Motto: Es gibt keine dummen Fragen, schon gar nicht, wenn es darum geht, sich in so komplexen Themen wie Künstliche Intelligenz und Algorithmen zurechtzufinden.
Deep Dive in künstliche Intelligenz – Raum für Fragen
Digitalisierung debuggen!
Ein Team des ‚Common Grounds Forum‘ mischte das Publikum in der interaktiven Intervention ‚Digitalisierung debuggen – Diskussion zu digital-politischen Positionen der jungen Generation‘ auf. Die Studierenden Daphne Auer, Emma Beuschel, Sébastien Elbracht, Daniel Mendes Jenner und Ludwig Lorenz hatten 2023 gemeinsam mit anderen jungen Menschen im Rahmen eines Partizipationsprojekts der Gesellschaft für Informatik e.V. und des BMBF Positionen zur Digitalpolitik erarbeitet. Diese stellten sie nun zur Diskussion.
Ein Team des Common Grounds Forum organisierte den Workshop „Digitalisierung debuggen“
Im Mittelpunkt des Workshops „Digitalisierung debuggen“ standen digitalpolitische Positionen, z.B. zu „Monopolen und Big Tech“
Nach einer kurzen Einführung ging es direkt ins „Digital-Bingo“, das das Team extra für die Tagung entwickelt hatte. So war das Eis schnell gebrochen und es entwickelten sich lebhafte Diskussionen quer durch alle Generationen. Das Team stellte anschließend neun der Ideen des Common Grounds Forums vor, darunter Forderungen zu „Monopole und Big Tech“, „Teilhabe und Chancen“, „Demokratie und Medienmonopole“ oder „Open Source“.
Forderungen waren zum Beispiel:
- „Es braucht ein System, in dem sich Bürger:innen nicht selbst um den Schutz ihrer digitalen Rechte kümmern müssen.“
- „Im Zentrum der Digitalisierung sollte die Selbstbestimmung der Menschen stehen.“
- „Digitalisierung soll helfen, unsere Ressourcen zu schützen, anstatt sich zu verbrauchen.“
- „Bildung über alle Generationen hinweg ist der Schlüssel zu einem aufgeklärten Leben in der digitalen Welt.“
Im anschließenden ‚Reality Check‘ bezog das junge Team die Tagungsteilnehmenden in kleinen Gruppen aktiv ein: Wo sind Lücken in den Forderungen? Wo gehen die Forderungen aus Sicht der überwiegend älteren Tagungsteilnehmenden vielleicht an der Realität vorbei? Und vor allem: Wie kann man die Positionen weiterentwickeln und in die Praxis umsetzen?
Ein sehr gelungener Austausch, den alle Anwesenden quer durch alle Altersgruppen als sehr fruchtbar empfanden.
„Suchmaschinen prägen unser Weltbild“
Um ethische Aspekte und wie die Internetsuche – also Suchmaschinen – unseren Alltag und unser Informationsverhalten prägen und welche Auswirkungen dies auf unsere Gesellschaft hat, ging es im Vortrag von Christine Plote.
Die Vorständin der Open Search Foundation und Moderatorin der osf-Fachgruppe Ethik zeigte in ihrem Vortrag unter anderem,
- dass Suchmaschinen uns nur einen selektiven Ausschnitt der Realität zeigen;
- welche Auswirkungen die übergroße Dominanz einiger weniger Anbieter hat;
- wie Suchmaschinen gesellschaftliche Vorurteile verfestigen und sogar verstärken;
- warum das intensive Sammeln von Nutzerinformationen und das flächendeckende Tracking durch Suchmaschinenanbieter wie Google unsere (nicht nur) digitale Privatsphäre aushöhlt;
- wie bei gleichen Suchanfragen je nach Kontext und Standort unterschiedliche Suchergebnisse angezeigt werden und wir dadurch keine gemeinsame Sicht auf die Realität haben;
- dass die Textausschnitte auf der Suchergebnisseite nicht unbedingt die tatsächliche Intention einer Website darstellen;
- wie sich künstliche Intelligenz auf die Internetsuche auswirkt, z.B. wenn bei der Suche nach historischen Ereignissen KI-generierte Bilder an die erste Stelle gerückt werden anstatt echte historische Bilder.
Christine Plote warnte: „Nicht zuletzt sind dadurch auch unsere demokratischen Strukturen in Gefahr. Denken Sie zum Beispiel an die anstehenden Wahlen“ und fügte hinzu: „Die Suche im Internet ist nur auf den ersten Blick kostenlos. Am Ende zahlen wir einen hohen Preis dafür.“
Zum Schluss gab sie konkrete Tipps für eine bessere Suche im Internet. Sie zeigte etwa einige „Suchoperatoren“, mit denen man schneller zum Ergebnis kommt. So kann man nach einer exakten Wortfolge suchen, indem man mehrere Suchbegriffe in Anführungszeichen setzt oder gezielt eine Website durchsuchen, wenn man den Zusatz „site:“ in Verbindung mit einer Domain eingibt und dahinter die Suchanfrage.
Der wichtigste Tipp aber sei es, die Suchergebnisse „immer kritisch zu hinterfragen und auch mal weiter nach unten zu scrollen, denn dort verbergen sich oft die passenderen Ergebnisse.“
„Suchmaschinen sind weder neutral noch fair.“ – Christine Plote, Vorständin der Open Search Foundation und Co-Moderatoring der osf-Fachgruppe Ethik
In der anschließenden „Werkstatt“ beantworteten Stefan Voigt, Christine Plote und Alexander Decker von der Open Search Foundation konkrete Fragen rund um sicheres Surfen im Internet, Browsereinstellungen, zum Wechsel der Suchmaschine und zu Einstellungen von Social-Media-Accounts und zeigten, wie man das Smartphone konfigurieren kann, um es sicherer und privater zu nutzen
„Die Informationsvielfalt in unserer Gesellschaft leidet. Uns läuft die Zeit davon“
Martin Andree zeigte sehr eindrucksvoll, dass die Informationsvielfalt in unserer Gesellschaft durch die großen Digitalplattformen bedroht ist. Der Medienwissenschaftler und Bestsellerautor („Big Tech muss weg“) hat als erster die Medienkonzentration im Internet gemessen und nachgewiesen, dass sich fast die gesamte Mediennutzung auf eine Handvoll digitaler Plattformen konzentriert. Die klassischen, analogen Medien spielten keine Rolle mehr, denn „der faire und freie Markt ist im Bereich der digitalen Medien vollständig abgeschafft“, so sein Fazit.
Der Vortrag zeigte auf, wie diese Situation in den letzten Jahrzehnten durch Netzwerkeffekte, geschlossene Standards, die Unterdrückung sogenannter Outlinks, „User Generated Content“ ohne Honorar und die fehlende Übernahme von inhaltlicher Verantwortung sowie Monopolmissbrauch durch digitale Plattformen entstanden ist.
„Der faire und freie Markt wurde im Bereich der digitalen Medien vollständig abgeschafft“ – Medienwissenschaftler und Autor Dr. Martin Andree
Andree schloss seinen aufrüttelnden Vortrag mit der ermutigenden Botschaft „Wir können etwas tun“ und nannte fünf konkrete Maßnahmen, die relativ einfach umgesetzt werden könnten.
- Outlinks ermöglichen, damit der so genannte Traffic von den Plattformen weg zu den ursprünglichen Inhalten fließen kann. Dies würde zu einer Demokratisierung des Traffics führen.
- Offene Standards, ähnlich wie bespielsweise auf dem E-Mail-Markt, wo man unabhängig vom E-Mail-Anbieter andere Menschen kontaktieren kann. Dies würde die Marktvielfalt wiederherstellen.
- Trennung von Übertragungsweg und Inhalt, niemand dürfe gleichzeitg den Kanal und den Content besitzen
- Gleichbehandlung von Social-Media-Plattformen als Medienunternehmen, analog zu analogen Medien wie Fernsehen, wo in Deutschland ein Marktanteil von mehr als 30% nicht erlaubt ist.
- Monetarisierung strafbarer Inhalte: Nach wie vor würden Plattformen strafbare Inhalte monetarisieren (als Beispiel nannte Martin Andree Instagram, das mit den Accounts der NPD und ihrer Nachfolgeorganisation „Neue Heimat“ immer noch Geld durch Werbung verdiene). Sobald jemand mit Inhalten durch Werbung Geld verdiene, mache er sich diese zu eigen und müsse dafür zur Verantwortung gezogen werden.
Maßnahmen und Projekte zur Medienbildung und die Entwicklung von Alternativen zu den Monopolplattformen würden nichts bringen, denn „solange wir nicht an die Monopole rangehen, haben wir gar keine Chance.“
[Der Vortrag von Martin Andree steht als Aufzeichnung zur Verfügung (YouTube).]
„Zwischen Wahlbiografie und Selbstoptimierung setzt die Erschöpfung ein.“
Dr. Sabrina Wilkenshof, Pfarrerin und Autorin („Wie man den Staub von der Hoffnung wischt“), führte am Sonntagvormittag in eine ganz andere Art der Orientierung im Digitalen ein: Mit „Kaffee, Kontingenz, Kirche“ beschrieb sie die Sinnsuche in den sozialen Medien. Sinnfluencer gebe es in allen Bereichen von Instagram: Ordnung, Zeitmanagement, Mutterschaft, Sport und Ernährung ebenso wie im kirchlichen Bereich. Sie alle bedienten im Prinzip die Sehnsucht der Menschen nach einem glücklichen Leben. Accounts, denen es gelinge, den Spagat zwischen „Wahlbiografie und Selbstoptimierung“ zu thematisieren, stießen auf großes Interesse, so Wilkenshof, vor allem dann, wenn sie das richtige Maß an Intimität, Nähe und Distanz fänden.
Wilkenshof zeigte, wie „Sinnfluencer:innen“ auf Instagram und TikTok mit einfachen Botschaften à la „aufgeräumtes Zimmer – aufgeräumte Seele“ und schönem Styling die Sehnsüchte der Menschen aufgreifen und zum Teil in äußerst lukrative Geschäftsmodelle umwandeln.
Sie stellte aber auch Pfarrer:innen vor, die Instagram als erweiterte Gemeinde sehen und dort ernsthafte und professionelle Seelsorge betreiben. Das habe durchaus Vorteile: „Religiöse Kommunikation auf Instagram setzt direkt am Ort der Lebenserfahrung an. Was sich eine Predigt erst mühsam ‚erarbeiten‘ muss, nämlich die konkrete Lebenswelt der Gottesdienstgemeinde, ist hier leicht greifbar.“ So könne auf Instagram eine Kommunikation auf Augenhöhe entstehen.
Sabrina Wilkenshof sparte aber auch nicht mit Kritik. So etwa am Geschäftsmodell der Plattformen und an der Abhängigkeit der Contentanbieter:innen von diesen Plattformen. So sei derzeit jeder, der viele Menschen erreichen wolle, auf die großen Plattformen wie Instagram und TikTok angewiesen und müsse sich deren Regeln unterwerfen. Auch die Angleichung der Stile an den Mainstream sah sie als Problem.
„Es heißt oft, Instagram wäre die Plattform für Perfektion, Ästhetik und Konsum. Ist es auch. Aber es ist noch mehr. Es ist ein Ort für Identifikation, Inspiration, Abgrenzung und Individidualität – und für Massengeschmack, Hate-Speech und toxische Vergleiche.“ – Pfarrerin Dr. Sabrina Wilkenshof
„Wrap-up in vier Akten“
Im abschließenden interaktiven „Wrap-up in vier Akten“ lud Prof. Dr. Alexander Decker noch einmal zum Gedankenaustausch ein: Welche Eindrücke nehmen die Tagunsbesucherinnen und -besucher mit? Was waren die wichtigsten Erkenntnisse? Wo kann und sollte weiter diskutiert werden?
In den Diskussionsrunden wurde auch deutlich, dass viele Menschen durch die rasanten Entwicklungen in der digitalen Welt verunsichert sind und große Ängste vor einem Niedergang der traditionellen Medien und der damit verbundenen Gefahr für die Demokratie haben. Besonders eindringlich appellierte ein älterer Teilnehmer vor allem an die Jüngeren: „Bitte lassen Sie es nicht so weit kommen. Ich möchte nicht noch einmal eine Diktatur erleben“.
Impressionen
Weitere Informationen
Die Tagung „Orientierung in der digitalen Welt. Wohin führen uns Google, TikTok & Co?“ fand vom 1. bis 3. März 2024 in Tutzing statt. Veranstalter waren die Evangelische Akademie Tutzing und die Open Search Foundation. Weitere Informationen über die Tagung im Veranstaltungsarchiv der Evangelischen Akademie Tutzing
„Orientierung in der digitalen Welt. Wohin führen uns Google, TikTok & Co?“
1. bis 3. März 2024
Referent:innen
PD Dr. Martin Andree, Medienwissenschaftler; Lehrbeauftragter an der Universität Köln und Gründer von AMP Digital Ventures sowie Autor von „Big Tech muss weg!“ (2023, www.bigtechmussweg.de), Köln
Prof. Dr. Alexander Decker, Professor für digitale Medien, Technische Hochschule Ingolstadt
Dr. Nicolas Dierks, Philosoph, Autor, Podcaster und Leiter des CAS-Zertifikats Digitale Ethik an der Leuphana Universität Lüneburg (nicolas-dierks.de)
Lajla Fetic, Beraterin für Digitalpolitik, gesellschaftliche Auswirkungen von künstlicher Intelligenz (KI) und algorithmenbasierten Technologien; gelistet in den „100 Brilliant Women in AI Ethics“, Berlin (lajlafetic.de)
Prof. Dr. Melanie Platz, Professorin Didaktik der Primarstufe – Schwerpunkt Mathematik, Universität des Saarlandes, Saarbrücken
Christine Plote, Mitbegründerin und Vorständin sowie Leiterin der Fachgruppe Ethik und des Projekts „#EthicsInSearch“ der Open Search Foundation e.V., Starnberg
Dr. Stefan Voigt, Mitbegründer und Vorstandsvorsitzender der Open Search Foundation e.V., Koordinator der Fachgruppe „Tech“ und Wissenschaftler im Deutschen Zentrum für Luft- und Raumfahrt, Starnberg
Prof. Dr. Matthias Wendland, LL.M. (Harvard), Inhaber des Lehrstuhls für Informationsrecht an der Universität Oldenburg, Berater, Speaker; Forschungsschwerpunkt zu Ethik und Regulierung von KI, Oldenburg
Dr. Sabrina Wilkenshof, Pfarrerin und Studienleiterin im Predigerseminar der Evangelisch-Lutherischen Kirche in Bayern, bei Instagram „hinter.den.sieben.bergen“ sowie Autorin von „Wie man den Staub von der Hoffnung putzt“ (2023), Traunstein
Daphne Auer, Emma Beuschel, Sébastien Elbracht, Daniel Mendes Jenner, Ludwig Lorenz, Studierende aus unterschiedlichen Fachrichtungen, die sich im Rahmen des Common Grounds Forum (CGF) für junge Perspektiven in der Digitalpolitik engagieren. Das Common Grounds Forum ist ein Partizipationsprojekt der Gesellschaft für Informatik e.V. und des BMBF. Junge Menschen zwischen 16 und 35 Jahren diskutieren digitalpolitische Themen. Das CGF präsentierte seine 31 Positionen und Forderungen im November 2023 auf der Hauptbühne des Digitalgipfels der Bundesregierung. https://common-grounds-forum.org
Veranstaltungsleitung
Dr. Henrik Meyer-Magister, Evangelische Akademie Tutzing
Christine Plote (Open Search Foundation e.V.)
Dr. Stefan Voigt (Open Search Foundation e.V.)
Weitere Informationen über die Tagung finden Sie im Veranstaltungsarchiv der Evangelischen Akademie Tutzing.
Die Open Search Foundation veranstaltet regelmäßig Vorträge, Webinare und Konferenzen, etwa den Free Web Search Day #FWSD und das Open Search Symposium #ossym24 im Herbst. Wenn Sie informiert bleiben möchten, abonnieren Sie den osf-Newsletter.
