Sicherheit im Social Web: Risikomanagement mit künstlicher Intelligenz
User-generated Content ist ein wichtiger Teil des Marketing-Mixes. Er sorgt aber nicht nur für Interaktionen und Reichweite, sondern eventuell auch für Probleme. Dann nämlich, wenn rechtswidrige Inhalte gepostet werden. Welche Möglichkeiten haben Unternehmen, die Kontrolle über Inhalte auf ihren Social-Media-Kanälen zu behalten?
Das Beispiel Facebook zeigt, wie wichtig es geworden ist, die Inhalte in den sozialen Medien kontinuierlich zu beobachten: Das US-amerikanische Unternehmen hat sein Team in diesem Bereich in 2019 auf insgesamt 30.000 Stellen aufgestockt. Das sind Ressourcen, die nur wenige Unternehmen aufbringen können. Zum Vergleich: Der Energiedienstleister Vattenfall oder die Parfümeriekette Douglas beschäftigen insgesamt jeweils rund 20.000 Menschen.
Grundsätzlich gibt es drei Möglichkeiten, eigene Social-Media-Kanäle zu managen. Die erste ist die manuelle Überprüfung von Texten, Bildern und Videos auf Legalität und Netiquette. Die Anzahl von Beiträgen, die so überprüft werden können, ist allerdings begrenzt und kann in der Regel nur stichprobenartig erfolgen. Da die Menge an User-generated Content durch steigende Nutzerzahlen im Internet aber eher größer als kleiner wird, wäre dieser Ansatz nur durch einen noch höheren Personaleinsatz skalierbar.
Der zweite Ansatz ist der Einsatz von Technologie – insbesondere künstlicher Intelligenz –, um unerwünschte oder gefährliche Inhalte regel- beziehungsweise algorithmenbasiert zu filtern. Diese Systeme sind sehr leistungsfähig: So konnte YouTube mit Hilfe von Machine Learning innerhalb eines Jahres Inhalte prüfen, für die sie 180.000 Menschen hätten beschäftigen müssen. Allerdings sind rein technologische Lösungen trotz aller Fortschritte noch zu fehleranfällig. Wie gut eine KI aktuell etwa bei der Bilderkennung arbeitet, lässt sich mit Microsofts CaptionBot ausprobieren. Er erzielt beeindruckende Resultate und hat eine hohe Trefferquote, kommt aber immer wieder an seine Grenzen.
Hybrid-Ansatz für beste Ergebnisse
Die Lösung liegt darin, beide Ansätze miteinander zu verbinden. Ein hybrider Ansatz bietet die größtmögliche Sicherheit, denn damit sind sowohl die automatisierte Überprüfung von großen Content-Mengen als auch eine situations- bzw. kontextspezifische Prüfung möglich.
Zunächst aber muss die künstliche Intelligenz trainiert werden. Dafür braucht sie einen möglichst großen Datensatz, der bereits klassifiziert worden ist, als „Anschauungsmaterial“. Anschließend überprüft die KI neue Beiträge auf dieser Basis. Wie gut sie dabei arbeitet, zeigt die regelmäßige manuelle Stichprobe durch die Mitarbeiter. Bei Arvato CRM Solutions kommt in der Praxis ein dreistufiger Prozess zum Einsatz: Zuerst werden Beiträge statisch gefiltert, zum Beispiel nach bestimmten Begriffen oder Webadressen. Dann erfolgt die Klassifizierung durch die KI, die für die jeweiligen Anforderungen des Auftraggebers trainiert worden ist. Der dritte Schritt ist die manuelle Stichprobe. Sie ist notwendig, weil Inhalte oft nicht eindeutig sind. Zeigt ein Bild tatsächlich etwas Anstößiges oder ergeben die Bildinhalte durch Zufall eine bestimmte Form? Ist ein Textbeitrag eine einfache Aussage oder versteckt die Rhetorik eine andere Botschaft? Hier stoßen auch die modernsten Systeme noch an ihre Grenzen. Die Ergebnisse der Überprüfung gehen in das beständige Training der KI ein. Dieser „Supervised Learning“-Ansatz führt dazu, dass die künstliche Intelligenz immer zuverlässiger arbeitet.
Chancen durch künstliche Intelligenz
Mit dem Einsatz von künstlicher Intelligenz, unterstützt von einem erfahrenen Team, erschließen sich Unternehmen wertvolle Chancen für ihre Social-Media-Kanäle:
- Erhöhte Sicherheit: Die unmittelbare Reaktion auf Inhalte minimiert Risiken für Nutzer sowie Betreiber von Social-Media-Seiten und -Plattformen.
- Effizienter Ressourceneinsatz: Da das KI-System und ein fachkundiges Team die Moderation übernehmen, kann sich das Social-Media-Team des Auftraggebers auf wertschöpfende und interaktionsfördernde Aktivitäten konzentrieren.
- Optimierung der Customer Experience: Nutzer werden vor illegalen, negativen oder anstößigen Inhalten geschützt. Das sichert ein positives Online-Erlebnis.
- Transparenter Umgang mit User-generated Content: Ein offener Dialog über den Umgang mit negativen oder schädlichen Inhalten wird angeregt. Die Risiken, denen Organisation und Nutzer durch Aktivität in den sozialen Medien gegenüberstehen, werden minimiert.
Künstliche Intelligenz kann die Interaktion zwischen Unternehmen und Kunden aber nicht nur in den sozialen Medien optimieren. Welche Vorteile sich durch die Nutzung künstlicher Intelligenz für Unternehmen außerdem ergeben können, zeigen zum Beispiel auch die intelligente Suchfunktion eSearch, Chatbots im Kundenservice oder Anwendungen für Voice Assistants.
Autor: Redaktion Zukunft. Kunde.
Bild: © Production Perig – AdobeStock
