Sociální síť začala používat "vycvičený" algoritmus vlastního designu, který přiděluje obrázkům speciální hodnocení a určuje, zda obsahují nelegální nebo "nebezpečný" obsah.
Sociální síť začala používat "vycvičený" algoritmus vlastního designu, který přiděluje obrázkům speciální hodnocení a určuje, zda obsahují nelegální nebo "nebezpečný" obsah.
Algoritmus rozpoznává objekty na obrázcích – lidi, zvířata, rostliny. Identifikovaný „zakázaný“ obsah nespadá do výsledků vyhledávání a „chytrého“ zpravodajského kanálu nebo je zcela zablokován
Tato technologie je také schopna analyzovat textové štítky na obrázcích.
Společnost uvedla, že neuronová síť je schopna určit objekty a entity zobrazené na fotografii. Rozumí nejen „člověk“, „dítě“, „zvíře“, „rostlina“, ale dokáže definovat například i symbol „skupin smrti“, upřesňuje Izvestija.
Obecně má neuronová síť několik tisíc tříd, které jsou fotografiím přiřazeny - od 0 do 1 podle několika parametrů. Pokud algoritmus fotografii charakterizuje jako „nebezpečnou“, je zaslána moderátorům k ověření. Pokud je fotografie považována za „středně nebezpečnou“, zmizí z výsledků vyhledávání a její priorita je v informačním kanálu snížena. Mechanismus pomáhá zastavit šíření spamu, podvodů, dětské pornografie, nelegálních služeb a dalších nelegálních aktivit.
Pro řešení sebevražedného obsahu je k dispozici samostatný skript. Příspěvky a fotografie na toto téma jsou automaticky mazány a stránky jejich autorů jsou blokovány.
Pokud uživatel nahraje obrázek nebo zmíní hashtagy, které byly dříve použity jako výzva k sebevraždě, VKontakte jeho stránku zablokuje a nabídne nahlášení důvodů zveřejnění.
Na základě odpovědí se určí, kdy bude stránka odblokována, a další kroky: uživateli může být nabídnuta pomoc psychologů z nadace Your Territory Foundation nebo rada ohledně zabezpečení stránky.
Jak řekl vedoucí tiskové služby VKontakte Evgeny Krasnikov, neuronová síť také najde a odstraní obrázky související s tématem sebevraždy a stránky uživatelů, kteří zveřejnili provokativní obsah, jsou až do prvního vstupu blokovány. Majitel stránky je vyzván, aby řekl o důvodech, které ho přiměly opustit takovou publikaci. Pokud člověk skutečně přemýšlí o sebevraždě, je poslán na psychologickou pomoc ke specialistům z nadace Your Territory Foundation. Pokud byly motivy odlišné – například pro pomoc při hledání zakázaného obsahu, je uživateli nabídnuto kontaktovat službu podpory VKontakte.