Povinné zavedení upload filtrů? Ne!

Má potenciál výrazně ovlivnit chování velkých internetových platforem, ale také například způsob jejich regulace.

Právě jedním ze způsobů této regulace jsou takzvané upload filtry – tedy filtry na nahrávání obsahu.

Do popředí zájmu se dostaly již před dvěma lety v souvislosti s novelou směrnice o autorských právech, která internetovým platformám nařídila používání automatizovaných filtrů pro kontrolu, zda uživateli nahrávaný obsah neporušuje autorské právo. To, že používání robotů pro kontrolu internetového obsahu může být problematické a zasahovat do práv uživatelů, se ukázalo například ve případě smazání tzv. Muellerovy zprávy automatickými filtry platformy Scribd. Psal jsem o tom tady.

O chybovosti upload filtrů nás také pravidelně přesvědčuje Facebook. V rozmezí několika dnů se mu povedly hned dva zářezy: Nejdříve zablokoval stránku města Trutnov, protože výstavu fotografií Františka Drtikola vyhodnotil jako pornografii. Pár dní poté Facebook smazal stránku neziskovky Meta o.p.s., protože si bohužel vybrala stejný název, jako Facebook o deset let později. Pro neziskovku Meta o.s.p. byl přitom Facebook důležitá komunikační platforma, skrze kterou informovala o akcích a vedla osvětové kampaně.

A nyní se nám filtry objevují znovu právě v novém Aktu o digitálních službách. Tentokrát by mělo jít o automatické mazání obsahu, který bude definován jako nějakým způsobem závadný – může jít o projevy nenávisti, terorismus, diskriminaci nebo například dětskou pornografii, ale také nedobrovolné sdílení soukromých fotek, online stalking, prodej padělaných výrobků, neoprávněné použití materiálu chráněného autorským právem nebo činnosti zahrnující porušení zákonů na ochranu spotřebitele.

Na první pohled to nezní tak špatně – ostatně jedním z hlavních cílů Aktu má být to, aby se internet stal bezpečnějším místem pro běžné spotřebitele.

Proč si tedy myslím, že jejich povinné zavedení by bylo chybou?

Jak jsem již ukázal na případě Muellerovy zprávy, roboti nejsou neomylní, mnohdy je potřeba důsledně posoudit kontext dané situace a současné automatizované technologie prostě neumí. Pokud přistoupíme na to, aby online platfromy byly nuceny používat robotické filtry, občas jednoduše smažou i naprosto legální a nezávadný obsah.

Automatické mazání obsahu bez toho, aniž by fungoval nějaký lidský dozor nad robotickými filtry, dělá z online platforem zároveň žalobce, soudce i popravčí. Přitom například sociální sítě již dávno nejsou jen jakýmisi „online kavárnami“, stalo se z nich místo, odkud lidé čerpají informace o světě i o politice, kde probíhají předvolební kampaně nebo kde můžeme sdílet informace o porušování lidských práv jinde ve světě. I proto prosazuji, aby proti rozhodnutím o smazání obsahu existovala odvolatelnost, aby nad robotické mazání dohlíželi lidé, kteří budou mít finální slovo v posuzování případné závadnosti daného vyjádření nebo jiného obsahu. A pokud dojde k neoprávněnému smazání, musíme mít možnost domoci se od dané firmy kompenzace.

Ochrana občanských práv uživatelů online platforem je pro mě zásadní – včetně práva na svobodu vyjadřování.