Das Berliner Forschungsprojekt "Analyse- und Recherche-Software zur KI-gestützten Analyse antidemokratischer Bewegungen online (ARAI)" will im Kampf gegen Verschwörungstheorien und demokratiefeindliche Inhalte zum Einsatz kommen.
Entwickelt von der Hochschule für Technik und Wirtschaft Berlin (HTW Berlin) in Kooperation mit dem Verein democ e.V., zielt ARAI darauf ab, zivilgesellschaftlichen Akteuren ein leistungsfähiges Open-Source-Tool geben, das insbesondere die Analyse von Inhalten im Netz erleichtert.
Für zivilgesellschaftliche Akteure
Zivilgesellschaftliche Akteure stehen seit Jahren vor der gewaltigen Herausforderung, die stetig wachsende Flut an Online-Inhalten demokratiefeindlicher Bewegungen zu erfassen und auszuwerten. Besonders schwierig gestalten sich die Erkennung und das Monitoring von dubiosen Verschwörungstheorien, die oft subtil und verschleiert kommuniziert werden.
Hier setzt ARAI an: Durch die enge Zusammenarbeit mit Organisationen wie democ e.V. soll eine praxisnahe und effiziente Software entwickelt werden, die nicht nur Texte, sondern auch Bilder und Audiodateien analysieren kann.
Open Source
Das Herzstück von ARAI bildet ein Modell zur Erkennung verschwörungstheoretischer Inhalte, das bereits in einem vorherigen Projekt der HTW Berlin entwickelt wurde. Ein besonderer Fokus lag auf der Vermeidung einer rein schlüsselwortbasierten Analyse, um eine breitere Erkennung von zweifelhaften Inhalten zu gewährleisten.
ARAI geht einen Schritt weiter: Um der zunehmenden Multimodalität in der Kommunikation auf Social-Media-Plattformen gerecht zu werden, wird die Software auch Bilder, Videos und Audiodateien analysieren können.
Der Open-Source-Ansatz von ARAI fördert Transparenz und macht es möglich, dass die Software von verschiedenen Akteuren weiterentwickelt und an ihre spezifischen Bedürfnisse angepasst werden kann. Dies ist besonders wichtig, um sicherzustellen, dass die Technologie auch nach dem Ende der Projektlaufzeit nachhaltig genutzt wird.
Ethische Überlegungen und Herausforderungen
Die Entwicklung einer solchen Technologie wirft komplexe ethische Fragen auf. Wie stellt man sicher, dass die KI-Anwendungen nicht missbraucht werden? Wie werden negative Auswirkungen frühzeitig erkannt und vermieden?
Das ARAI-Projektteam setzt auf die kontinuierliche Einbindung zivilgesellschaftlicher Akteurinnen. Diese tragen dazu bei, die ethischen Aspekte der Technologieentwicklung zu reflektieren und sicherzustellen, dass die KI-Modelle nicht nur effektiv, sondern auch verantwortungsvoll eingesetzt werden.
Prof. Dr. Helena Mihaljević, die Projektleiterin, unterstreicht die Bedeutung von Transparenz und Zusammenarbeit: „Indem wir technologisch geeignete Feedback-Möglichkeiten schaffen, können wir die täglichen Erfahrungen der Userinnen in die Trainings- und Deployment-Prozesse einfließen lassen.“
Zudem wird das Projektteam die rechtlichen Rahmenbedingungen, wie den AI Act der EU, in den Entwicklungsprozess einbeziehen, um sicherzustellen, dass die entwickelten Technologien den aktuellen regulatorischen Anforderungen entsprechen.
Berlin als Innovationszentrum
Das ARAI-Projekt verdeutlicht Berlins Rolle als Zentrum für die Entwicklung von KI-Technologien mit direktem gesellschaftlichem Nutzen. Die Stadt bietet eine einzigartige Kombination aus erstklassigen Forschungseinrichtungen, Universitäten und zivilgesellschaftlichen Organisationen, die gemeinsam an Lösungen für die drängenden Probleme unserer Zeit arbeiten.
Institutionen wie das Einstein Center Digital Future und das Weizenbaum-Institut für die vernetzte Gesellschaft spielen eine entscheidende Rolle bei der Förderung von Innovation und der Vernetzung von Wissenschaft und Praxis.
Diese Verbindungen sind essentiell, um praxisnahe und anwendbare Lösungen zu entwickeln, die das Potenzial haben, weit über Berlin hinaus zu wirken.