Agentic AI Accounts: Künstliche Profile übernehmen soziale Medien

Immer mehr Inhalte in sozialen Netzwerken stammen nicht mehr von echten Menschen, sondern von künstlich gesteuerten Profilen. Laut einer aktuellen Studie des Forschungsnetzwerks AI Forensics   werden auf TikTok bereits über 80 Prozent der KI-generierten Beiträge von sogenannten "Agentic AI Accounts" produziert - automatisierten Profilen, die selbstständig Trends erkennen, Inhalte posten und viral gehen.

Unter Agentic AI Accounts verstehen ForscherInnen autonome Social-Media-Profile, die durch generative KI-Systeme gesteuert werden. Sie produzieren Inhalte automatisch, erkennen Trends und optimieren ihre Postings so, dass sie von den Plattform-Algorithmen bevorzugt ausgespielt werden. Forscher nennen dieses Verhalten "Gaming the Algorithm" - ein Prozess, bei dem KI-Modelle lernen, welche Art von Inhalten am schnellsten viral gehen.

Drei Typen künstlicher Profile

Die Studie unterscheidet drei Formen solcher Accounts:

• Mono-Topic Accounts fokussieren sich auf ein Thema (z. B. Fitness, Essen, Haustiere) und posten regelmäßig stilistisch einheitliche KI-Bilder.
• Poly-Topic Accounts decken viele Themen gleichzeitig ab, um möglichst verschiedene Zielgruppen anzusprechen und sind darauf spezialisiert, Trends schnell zu erkennen und zu bedienen.
• Hybrid Accounts mischen KI-generierte und menschliche Inhalte - und sind deshalb besonders schwer zu erkennen.

Warum das problematisch ist

Was zunächst nach Effizienz klingt, gefährdet die Glaubwürdigkeit sozialer Medien. Wenn Feeds zunehmend von KI-Accounts dominiert werden, verdrängen sie authentische Stimmen und reale Erfahrungen. Zudem können automatisierte Profile gezielt Desinformation verbreiten und Plattform-Algorithmen manipulieren. Virale Trends entstehen dadurch nicht mehr organisch, sondern algorithmisch konstruiert.

Das Projekt Human Verified   will mit der AI-Forensics-Studie zeigen, wie dringend Echtheit im digitalen Raum abgesichert werden muss. Agentic AI Accounts verdeutlichen, wie stark KI die sozialen Medien verändert: Sie produzieren endlos, effizient - aber ohne Bewusstsein oder Menschlichkeit. Human Verified will nun eine Initiative ins Rollen bringen, die mit sichtbaren Echtheitsmerkmalen - etwa Content-ID, Ort, Land und Datum - sowie Verifikation über ein dezentrales Peer-to-Peer-Filesharing-System (IPFS) sowie einem Prüfsystem belegen, dass Inhalte tatsächlich von Menschen stammen.