Es gibt immer mehr Belege dafür, dass die Verbreitung von Desinformationen nicht zu vernachlässigende Auswirkungen auf unsere Gesellschaft auf individueller und kollektiver Ebene hat. Von der öffentlichen Gesundheit bis hin zum Klimawandel ist es von größter Bedeutung, aufkommende Desinformationssignale wie Inhalte aus bekannten unzuverlässigen Quellen und neue Erzählungen, insbesondere aus sozialen Online-Medien, rechtzeitig zu erkennen, um Medienfachleuten und politischen Entscheidungsträgern vertrauenswürdige Elemente an die Hand zu geben, damit sie Desinformationsausbrüche löschen können, bevor sie außer Kontrolle geraten. Die Überwachung und Analyse großer Mengen von Online-Inhalten übersteigt jedoch bei weitem die Fähigkeiten des Menschen allein. Unabhängig von den sozio-psychologischen und verhaltensbedingten Gründen für das Fälschen von Informationen ist die Geschwindigkeit, mit der Desinformationen produziert werden, viel größer als die Geschwindigkeit, mit der sie analysiert und ihre Auswirkungen angemessen gemildert werden können.
AI4TRUST wird ein hybrides System bereitstellen, bei dem Maschinen mit Menschen zusammenarbeiten und sich auf fortschrittliche KI-Lösungen gegen fortschrittliche Desinformationstechniken verlassen, um Medienfachleute und politische Entscheidungsträger zu unterstützen. Unser System wird nahezu in Echtzeit mehrere soziale Online-Plattformen überwachen, soziales Rauschen herausfiltern und multimodale (Text, Audio, visuelle) Inhalte in mehreren Sprachen (bis zu 70 % der Berichterstattung in der EU) mit neuartigen KI-Algorithmen analysieren, während es gleichzeitig auf automatisierte Weise mit einem internationalen Netz menschlicher Faktenprüfer zusammenarbeitet, die in regelmäßigen Abständen aktiviert werden und häufig validierte Daten zur Aktualisierung unserer Algorithmen liefern. Die sich daraus ergebenden quantitativen Indikatoren, einschließlich des infodemischen Risikos, werden unter dem Blickwinkel der Sozial- und Computer-Sozialwissenschaften untersucht, um die vertrauenswürdigen Elemente zu schaffen, die von Medienfachleuten benötigt werden, um anpassbare und zuverlässige Datenberichte zu erstellen.
Wir gehen davon aus, dass das System von AI4TRUST, das auf einem auf den Menschen ausgerichteten Ansatz für die Technologieentwicklung basiert, der mit den europäischen sozialen und ethischen Werten in Einklang steht, in den Standard-Werkzeugkasten von Datenanalysten, die sich mit Desinformation befassen, integriert werden wird.
AI4Trust ist ein Horizon Europe Innovationsprojekt, das von der Europäischen Kommission unter der Grant Agreement ID:101070190 kofinanziert wird.