Google komt met algoritme tegen giftig commentaar
Google en technologiepartner Jigsaw lanceren vandaag een techniek om geautomatiseerd ‘giftig commentaar’ te identificeren en zo het modereren van reacties te vereenvoudigen. De techniek, Perspective genaamd, is nog in een vroeg stadium maar kan in bestaande sites worden opgenomen.
De techniek baseert zich op honderdduizenden commentaren die eerst door mensen zijn beoordeeld en daarna in algoritmes zijn gevangen. Het gaat dus verder dan enkel filteren op sleutelwoorden. Het algoritme leert van correcties en nieuwe informatie. In eerste instantie werkt de techniek nog enkel met Engels. Andere talen volgen dit jaar.
Bepaald commentaar kan gefilterd worden voor het op de site komt. Uitgevers kunnen Perspective echter ook gebruiken om reageerders nog tijdens het schrijven van de reactie te attenderen op de potentieel giftige toon van de bijdrage. Als een site giftige commentaren liever laat staan, kan Perspective ze bundelen en zo de reguliere discussie meer ruimte geven.
Perspective is getest bij de New York Times, waar vanwege het beheersaspect maar bij zo’n 10 procent van de artikelen de reacties open staan. Desondanks moeten redacteuren dagelijks zo’n 10.000 commentaren beoordelen. Met Perspective moet dat eenvoudiger worden en kan bij meer artikelen de reactiemogelijkheid open.
De eerste versie van Perspective richt zich op giftige commentaren, maar het plan is in de nabije toekomst ook commentaar te kunnen spotten dat matig van kwaliteit is of zelfs helemaal off-topic is.
Diverse media hebben de afgelopen tijd besloten commentaren dicht te gooien, omdat het beheer te bewerkelijk is. Het is echter wel jammer als kwaliteitsmedia de reacties van hun lezers niet meer doorgeven. Ze zijn vaak heel interessant.
Natuurlijk zijn er volop reacties op sociale media terug te vinden. Maar dan is er meer sprake van gescheiden werelden doordat veel ouderen niet op sociale media hun visie wensen te geven maar wel op een artikel willen reageren.