Yahoos Missbrauchserkennungsalgorithmus funktioniert in 90 % der Fälle und ist ein wichtiger Schritt nach vorne auf seinem Gebiet

Hilfe zu Computeralgorithmen

Yahoos Nachrichtenartikel enthalten viele unappetitliche Kommentare, ähnlich wie der Rest des Internets. Daher entschied sich das Yahoo-Team, ihren Kommentarbereich zu verwenden, um einen Algorithmus zu entwickeln, der die schlimmsten Täter erfolgreich identifizieren kann. Ihr neuer Algorithmus zur Missbrauchserkennung 90 Prozent der Zeit funktioniert, was sie ihrer Meinung nach effektiver macht als die Versuche anderer Organisationen, ähnliche Leistungen zu erbringen, und als großer Fortschritt auf diesem Gebiet beschrieben. 90 Prozent tut klingen ziemlich gut, gebe ich zu.

Verdrahtet berichtet, dass Yahoo im Rahmen seines Projekts zur Bekämpfung von Missbrauch auch die erste öffentlich zugängliche kuratierte Datenbank mit Online-Hassreden veröffentlicht. Dies bedeutet, dass andere Websites die Kommentardatenbank von Yahoo verwenden können, um ihre eigenen Algorithmen zu entwickeln. Der Algorithmus von Yahoo wurde basierend auf maschinellem Lernen und auch auf von Benutzern gemeldeten Daten über ihre Kommentarbereiche entwickelt.

Der schwierigste Teil eines jeden Kommentar-Moderationsalgorithmus ist der Umgang mit False Positives. Viele Algorithmen zur Erkennung von Missbrauch suchen nach bestimmten Wörtern oder Phrasen wie Beleidigungen oder häufigen Beleidigungen und kennzeichnen die Kommentare automatisch zur Moderation. Dies führt jedoch dazu, dass Kommentare markiert werden, auch wenn sie beispielsweise auf eine Beleidigung verweisen, wenn sie sagen, dass dies nicht angemessen ist, oder wenn der Kommentar eine sarkastische Nachahmung eines Trolls ist. Der Algorithmus von Yahoo kann anscheinend bestimmte Sprachmuster erkennen und ist so konzipiert, dass er den Unterschied zwischen witzigem Sarkasmus und tatsächlichem Missbrauch erkennen kann. (Wenn Ihr urkomischer Kommentar natürlich nicht von tatsächlichem Missbrauch zu unterscheiden ist, bin ich mir ziemlich sicher, dass der Algorithmus ihn immer noch kennzeichnet, aber ich kann nicht mit Sicherheit sagen, wie dieser Teil der KI funktioniert.)

Yahoo engagierte geschulte Kommentarmoderatoren, um den Algorithmus zu perfektionieren, und sie bezahlten auch einige ungeschulte Moderatoren, und sie stellten fest, dass die geschulten Moderatoren viel besser darin waren, herauszufinden, welche Kommentare angemessen waren (eine Art Kinderspiel, aber hey). Bei der Entwicklung der KI stellte Yahoo fest, dass die Arbeit dieser geschulten menschlichen Moderatoren für die Aufrechterhaltung der Wirksamkeit des Algorithmus und die Perfektionierung seiner Erkennungstechniken unerlässlich ist.

Natürlich, Algorithmen haben immer noch Vorurteile , was ein (hoffentlich vielfältiges) Team menschlicher Moderatoren erfordern würde, um die Methoden zur Klassifizierung von Kommentaren weiter zu überarbeiten. Klingt nach einem harten Job, aber zumindest versteht Yahoo jetzt, wie wichtig es ist, die Rollen sowohl ihrer gut ausgebildeten menschlichen Moderatoren als auch ihres neuen KI-Kollegen zu schulen und zu schätzen.

Warum mag Deadpool Einhörner?

(über Das nächste Web , Bild über Michael Cordedda/Flickr )