Nieuw
·
Lokale AI · geen OpenAI
De AI Moderator is een intelligent moderatie-systeem dat berichten in je server automatisch analyseert op schadelijk gedrag. Berichten van minder dan drie woorden worden daarbij overgeslagen, behalve als er een bedreiging, groepshaat, een scheldwoord naar iemand of zelfbeschadiging in staat. Wordt er iets gedetecteerd, dan onderneemt de bot direct actie volgens jouw instellingen — een waarschuwing geven, het bericht verwijderen, of alleen loggen voor je moderators.
In tegenstelling tot de meeste "AI" Discord bots draait onze detectie volledig op onze eigen servers. Berichten gaan niet naar Google, OpenAI of welke externe AI-dienst dan ook. Alleen als een serverbeheerder de tweede mening bij twijfel zelf aanzet, gaan de twijfelgevallen, zonder naam, naar Anthropic (Claude); die tweede mening kan een straf alleen milder maken, nooit strenger.
Typ een testbericht en zie live wat onze lokale AI ervan vindt — exact hetzelfde model dat je server beschermt. Eén verschil: deze demo scoort ook berichten van één of twee woorden, terwijl de moderator die in Discord overslaat.
Standaard worden berichten geanalyseerd op onze eigen infrastructuur: geen data naar derden, geen tracking, geen externe API's. Alleen als een serverbeheerder de tweede mening bij twijfel zelf aanzet, gaan twijfelgevallen, zonder naam, naar Anthropic.
Zes talen voor de toonherkenning: Nederlands, Engels, Frans, Duits, Spaans en Italiaans. De scheldwoord- en slurlijsten bestaan alleen voor Nederlands en Engels; de dreigementpatronen bevatten Nederlandse en Engelse termen en draaien op elk gescand bericht. Meldingen en commando's van de bot zijn er in het Nederlands en Engels.
Minder dan 100 milliseconden per bericht. Berichten gaan één voor één door een wachtrij, dus bij een piek staan ze kort in de rij; staan er al 50 berichten in, dan wordt een nieuw bericht overgeslagen. Staat de tweede mening aan, dan wacht een twijfelgeval op het antwoord van Claude.
Geen API-kosten; de AI Moderator zit standaard in de gratis bot. Onbeperkt is het niet: staan er bij een piek al 50 berichten in de wachtrij, dan wordt een nieuw bericht overgeslagen. De tweede mening bij twijfel heeft een eigen plafond van 60 vragen per server per dag.
Jij bepaalt de gevoeligheid en welke acties de bot neemt. Van mild (alleen ernstige overtredingen) tot streng (vangt ook lichte beledigingen).
Discord's AutoMod werkt op vaste woordlijsten. De AI Moderator kijkt daarnaast naar de toon van het hele bericht met een sentimentmodel, en heeft aparte patronen voor bedreigingen.
Een hybride detectiesysteem dat meerdere signalen combineert tot één betrouwbare score.
Een BERT-classifier die de toon van een bericht begrijpt in 6 talen (NL, EN, FR, DE, ES, IT). Draait on-device, op onze eigen server.
Handmatig samengestelde Nederlandse en Engelse lijsten van scheldwoorden, opgedeeld in categorieën (mild, expliciet, slurs).
Detecteert dreigementen zoals "ik ga je vermoorden", "ga dood, niemand mist je" of "you should kill yourself" — een vaste lijst Nederlandse en Engelse patronen die op elk gescand bericht wordt toegepast. Ook een los "kys" of "ga dood" wordt beoordeeld: een bedreiging telt ook in een bericht van minder dan drie woorden. Een paar schrijfwijzen ("k.y.s", "kysss") worden herkend, de meeste creatieve spellingsvarianten niet.
Hate speech en identiteitsaanvallen (racisme, homofobie, etc.) krijgen automatisch de hoogste prioriteit.
Alle signalen worden gecombineerd tot één score tussen 0 en 1. Pas wanneer die boven je ingestelde drempel komt, wordt er actie ondernomen.
| Instelling | Wat het doet |
|---|---|
| Aan / Uit | Schakelt de AI Moderator volledig in of uit per server. |
| Gevoeligheid: Mild | Alleen ernstige overtredingen (drempel 0.85). |
| Gevoeligheid: Normaal AANBEVOLEN | Gebalanceerd — aanbevolen voor de meeste servers (drempel 0.70). |
| Gevoeligheid: Streng | Vangt ook lichtere beledigingen (drempel 0.55). |
| Meld-kanaal | Optioneel kanaal waar moderators een melding krijgen bij elke AI-actie. |
| Auto-verwijder | Verwijdert berichten direct bij hoge severity. |
| Auto-warn | Geeft de gebruiker een waarschuwing + een bericht in de chat (verdwijnt na 10 sec). |
| Tweede mening bij twijfel | Standaard uit. Zet je hem aan, dan gaat van berichten waarover de moderator twijfelt alleen de tekst, zonder gebruikersnaam, naar Claude van Anthropic voor een tweede oordeel. Dat oordeel kan een straf alleen milder maken, nooit strenger. Hoe dat zit. |
Ga naar het SlakBot Dashboard → Moderatie → AI Moderator
Zet de schakelaar op AAN
Kies je gevoeligheid (Mild / Normaal / Streng)
Stel optioneel een meld-kanaal in voor je moderators
Klik op Opslaan — klaar! De AI Moderator beschermt nu automatisch je server.
Standaard niet. De moderatie draait lokaal op onze eigen servers; er gaat dan niets naar Google, OpenAI, Anthropic of andere partijen. Alleen als een serverbeheerder zelf de tweede mening bij twijfel aanzet, gaan twijfelgevallen, zonder naam, naar Anthropic (Claude). Dat is een eigen keuze, geen standaardgedrag. Een stand waarin berichten naar Google Gemini gingen, is er niet meer.
Ja. De toonherkenning werkt in zes talen: Nederlands, Engels, Frans, Duits, Spaans en Italiaans. Scheldwoord- en slurlijsten bestaan alleen voor Nederlands en Engels, en de dreigementpatronen bevatten Nederlandse en Engelse termen — die draaien op elk gescand bericht, ongeacht welke taal er gedetecteerd wordt. De bot zelf — meldingen en commando's — spreekt Nederlands en Engels.
Nee, de AI Moderator zit standaard in de gratis bot. Geen API-kosten. Onbeperkt is het niet: berichten gaan door een wachtrij van maximaal 50. Zit die vol, dan slaat de bot een bericht over in plaats van te wachten. De tweede mening bij twijfel heeft een eigen plafond van 60 vragen per server per dag; is dat op, dan beslist de bot lokaal, zoals zonder tweede mening.
Ja. Je kiest zelf of berichten worden verwijderd, of de gebruiker een warn krijgt, en of moderators een melding ontvangen.
Met de "Normaal" instelling is het systeem gebalanceerd. Mocht je toch onterechte detecties zien, dan kun je de gevoeligheid op "Mild" zetten.
SlakBot gebruikt AI op vier plekken: de AI-moderator draait lokaal, en op drie plekken gebruiken we Claude van Anthropic. Hier staat in gewone taal wat die AI doet, hoe je hem herkent en hoe je hem uit laat. De precieze afspraken over je gegevens staan in §2.10 van de privacyverklaring.
Een voorstel van de schrijfhulp of van 'Snel instellen' staat er altijd met het label 'Voorstel gemaakt door AI'. Daar slaat de AI nooit zelf iets op en plaatst hij nooit zelf iets: een mens leest het voorstel, past het aan als dat nodig is en drukt zelf op Opslaan. De AI-moderator werkt anders: die verwijdert en waarschuwt wél zelf, als je server dat zo heeft ingesteld. Zo'n waarschuwing staat op naam van de AI Moderator, niet van een mens, en in het meldkanaal staat of er een tweede mening bij was.
De schrijfhulp doet niets tot je op de knop drukt: niet gebruiken is uit. De tweede mening staat standaard uit; je zet hem aan en weer uit bij de AI-moderator in het nieuwe paneel. De AI-moderator zelf zet je daar per server aan of uit. Wil je niet dat we Claude gebruiken voor het antwoord op jouw supportvraag, zeg het er dan bij; dan schrijven we het zonder.
Discord laat mensen vanaf 13 jaar toe, dus in servers met SlakBot zitten ook jonge leden en soms jonge beheerders. Daarom staat bij elk AI-voorstel dat het van AI komt, en slaan de schrijfhulp en 'Snel instellen' niets op zonder dat een mens op Opslaan drukt. De AI-moderator grijpt wel zelf in; je ziet dan dat het de AI Moderator was, en de tweede mening kan zo'n straf alleen milder maken. SlakBot zelf is bedoeld voor 16 jaar en ouder (privacyverklaring §9).
Een voorstel dat niet klopt of niet deugt, of een beslissing van de AI-moderator die niet klopt? Meld het via support@slakbot.nl, de support-Discord of slakbot.nl/contact.
SlakBot houdt zich aan het gebruiksbeleid van Anthropic en aan de transparantieplicht uit de Europese AI-verordening (AI Act): wie met AI te maken krijgt, ziet dat. Anthropic traint niet op wat SlakBot stuurt, en SlakBot bewaart je tekst en de voorstellen niet.
Voeg SlakBot toe en zet de AI Moderator aan in je dashboard. Geen creditcard, standaard geen externe AI, geen gedoe.