Если алгоритмы радикализируют массового убийцу, несут ли компании ответственность?

В суде Нью-Йорка 20 мая юристы некоммерческой организации Everytown for Gun Safety утверждали, что компании Meta, Amazon, Discord, Snap, 4chan и другие социальные сети несут ответственность за радикализацию массового стрелка. Компании защищались от обвинений в том, что их конструкти́вные особенности – включая алгоритмы рекомендаций – способствовали распространению расистского контента среди человека, убившего 10 человек в 2022 году, и впоследствии облегчили реализацию его смертельного плана.

Это особенно мрачное испытание популярной правовой теории: социальные сети являются продуктами, которые могут быть признаны юридически дефектными в случае возникновения проблем. Успех этого подхода может зависеть от того, как суды интерпретируют Разде́л 230 – основополагающий элемент интернет-законодательства.

В 2022 году Пейтон Гендрон (Payton Gendron) проехал несколько часов до супермаркета Tops в Буффало, штат Нью-Йорк, где открыл огонь по покупателям, убив 10 человек и ранив еще троих. Гендрон заявил, что вдохновлялся предыдущими атаками на расовой почве. Он вел прямую трансляцию атаки на Twitch, а в своем обширном манифесте и личных дневниках, которые он вел на Discord, заявил, что был частично радикализован расистскими мемами и намере́нно выбрал в качестве цели общи́ну с преоблада́ющим афроамериканским населением. Everytown for Gun Safety подала иск…