KI-Moderation: Zusätzliche Prüfung in freigeschalteten Kanälen

Die KI-Moderation prüft Nachrichten in Kanälen, die du ausdrücklich freigibst, zusätzlich zum Wortfilter auf toxische, beleidigende oder hasserfüllte Inhalte. Bei einem Treffer meldet Kage ihn im Mod-Log-Kanal und löscht die Nachricht nur, wenn du das eingeschaltet hast.

Was für alle KI-Funktionen gilt (Schalter, Tagesbudget, Datenschutz), steht in KI-Funktionen. Beachte dort besonders, welche Daten an den KI-Anbieter gehen: Der Text der geprüften Nachrichten wird übermittelt.

Voraussetzungen

• Zugriff auf das Modul: Du meldest dich im Dashboard mit Discord an und brauchst das Recht Server verwalten (oder einen für dieses Modul freigegebenen Zugriff).
• KI-Funktionen aktiv unter KI-Steuerung, und ein vom Betreiber eingerichteter KI-Anbieter.
• Ein Mod-Log-Kanal im Modul Moderation, und das Modul muss eingeschaltet sein. Sonst erkennt die KI Treffer, meldet aber nichts. Kage braucht dort Nachrichten senden und Links einbetten.
• Zum Löschen: Kage braucht Nachrichten verwalten im geprüften Kanal.
• Tarif: Die KI-Funktionen sind ein Zusatzprodukt, der Tarifhinweis oben zeigt den Stand.

Einrichten

1. Öffne im Dashboard KI-Moderation.
2. Wähle unter Freigeschaltete Kanäle die Kanäle, in denen geprüft werden soll. Standardmäßig ist kein Kanal freigeschaltet. Zum Aktivieren braucht es mindestens einen.
3. Entscheide bei Getroffene Nachrichten automatisch löschen, ob Kage Treffer löscht. Standard: nur protokollieren.
4. Schalte KI-Moderation aktiv ein und speichere.

Was geprüft wird

Kage prüft eine Nachricht nur, wenn alles zutrifft:

• Der Absender ist kein Bot.
• Der Absender hat nicht das Recht Nachrichten verwalten. Moderatoren und Admins werden nie geprüft.
• Die Nachricht hat mindestens 5 Zeichen. Kürzeres wie „ok“ geht nie an die KI.
• Der Kanal steht in den freigeschalteten Kanälen.
• Das Tagesbudget reicht noch.

Dann bekommt die KI den Text (auf 500 Zeichen gekürzt) und antwortet nur mit OK oder TOXIC und einer kurzen Begründung. Alles, was Kage nicht eindeutig als TOXIC erkennt, gilt als kein Treffer.

Die Prüfung kostet einen Aufruf pro Nachricht. Wähle die Kanäle deshalb mit Bedacht. Ist das Budget aufgebraucht oder die KI nicht erreichbar, bleibt die Nachricht unangetastet.

Was bei einem Treffer passiert

1. Ist Automatisch löschen an, löscht Kage die Nachricht.
2. Kage postet im Mod-Log-Kanal eine Karte „KI-Moderation ausgelöst“ mit Mitglied, Kanal, Aktion („Gelöscht“ oder „Nur protokolliert“), Begründung der KI und dem Text der Nachricht.
3. Das Ereignis steht im Reiter Logs des Moduls.

Es gibt keine automatische Strafe gegen das Mitglied und keinen Eintrag in den Verwarnungen. Du entscheidest selbst, ob du handelst.

Löschen ist riskant: Die KI kann sich irren. Eine falsch erkannte Nachricht ist beim reinen Protokollieren ein unnötiger Eintrag, beim Löschen aber eine verlorene Mitgliedernachricht. Deshalb steht das Löschen standardmäßig aus.

Einstellungen im Überblick

Ergebnis überprüfen

1. Kanal freischalten: Wähle einen Testkanal und speichere.
2. Testnachricht: Schreibe mit einem Konto ohne Moderationsrechte eine eindeutig beleidigende Nachricht.
3. Mod-Log: Im Mod-Log-Kanal erscheint die Karte. Bei ausgeschaltetem Löschen bleibt die Nachricht stehen.

Fehlerbehebung

Nichts passiert

Prüfe: Hauptschalter und KI-Moderation aktiv an? Der Kanal freigeschaltet? Das Konto ohne Nachrichten verwalten? Die Nachricht lang genug? Das Tagesbudget nicht aufgebraucht?

Treffer erscheinen nicht im Mod-Log

Im Modul Moderation ist kein Mod-Log-Kanal gewählt, das Modul ist ausgeschaltet, oder Kage darf dort nicht schreiben.

Die Nachricht wurde trotz Treffer nicht gelöscht

Automatisch löschen ist aus, oder Kage hat Nachrichten verwalten im Kanal nicht.

Zu viele Fehlalarme

Lass das Löschen aus und beschränke die Freigabe auf wenige Kanäle. Ergänze den Wortfilter für eindeutige Begriffe.

Das Budget ist schnell aufgebraucht

Jede geprüfte Nachricht kostet einen Aufruf. Gib weniger oder weniger aktive Kanäle frei.

Weiterführend

Klassische Moderation: Moderation, Wortfilter, Anti-Spam.