Slop Sites und Fraud Bots: Warum Werbebetrug mit generativer KI noch einfacher wird
26. Februar 2025
Generative KI eröffnet uns heutzutage auf der einen Seite nicht nur zahlreiche neue Möglichkeiten, sondern stellt auf der anderen Seite eine Superkraft in der Cyberkriminalität dar. Zu den Gefahren gehören beispielsweise Pishing, Online-Betrug und Fake-Shops sowie Social Bots. Verifikations-Dienstleistungen wehren sich jedoch gegen Werbebetrug – man kann also sagen: KI kämpft gegen KI.
Wie generative KI Werbebetrug erleichtert
Generative KI-Modell wie GPT-4 oder Midjourney können realistische Bilder und Videos erstellen, die von echten Inhalten kaum zu unterscheiden sind. Sogenannte „Slop Sites“, also Websites, die zum großen Teil KI-generiert sind und qualitativ minderwertigen Content erhalten, geraten durch Netzwerkvermarkter ins Internet. Das Problem ist, das gefälschte Websites schneller nachwachsen, als sie identifiziert und gelöscht werden können, sie verbreiten sich also rasend schnell. Generative KI vereinfacht dabei die täuschend echte Nachahmung legitimer Publisher. Dazu erschweren Fraud-Bots den Kampf gegen Werbebetrug. Fraud Bots sind Klickmaschinen, die menschliches Verhalten auf Websites nachahmen, um Werbeeinnahmen künstlich zu steigern.
Maßnahmen zur Bekämpfung von KI gestütztem Werbebetrug
Trotz der zunehmenden Gefahr gibt es Möglichkeiten, sich und sein Unternehmen gegen KI-gestütztem Werbebetrug zu schützen. Dabei helfen vor allem KI-gestützte Erkennungssysteme, um verdächtige Muster schnell zu erkennen. So können Slop Sites kategorisiert werden, wenn problematische Qualitätssignale, wie sich wiederholende Formate oder Chatbot-generierte Texte, festgestellt werden. Technologien wie Blockchain können eingesetzt werden, um für Transparenz und Authentifizierung zu sorgen. Außerdem müssen Regierungen und Plattformbetreiber klare Regeln für den Einsatz von KI in der Werbung entwickeln.
