Создатели дефектных алгоритмов или Должны нести ответственность

 5 18 0 1
Создатели дефектных алгоритмов
0
 Нейтральная
сторона
0
Должны нести ответственность
6
Создатели дефектных алгоритмов (не имеют отношения к результатам своих творений) или Должны нести ответственность (перед обществом)
не имеют отношения к результатам своих творений
 Прежде чем писать комментарии или выбрать сторону вы должны авторизироваться!
перед обществом
Обсуждается: habrahabr.ru/post/342168/

12-11-2017 21:33 0

Причем тут вообще дефектные алгоритмы?
Статья о том, что производители контента в интернете производят в основном говно, причем они вообще не парятся на тему того, как и что они генерируют, пока это приносит им деньги.
Сама статья - прекрасный пример этой же проблемы (как правильно отмечали комментаторы, статья будто бы переведена машинным переводом).

Теперь на тему того, должны ли нести создатели алгоритмов ответственность за результаты их работы:
1. Если мы говорим про код или ПО, то есть License Agreement
2. Если мы говорим про сервисы, то есть Terms of use
Всё. Если там сказано, что создатели не несут ответственности за результаты использования программного продукта, то в чем проблема?

2 комментария
Simple_Not 12-11-2017 21:48 0

Jotun, Производитель производителем, но YouTube даёт этому контенту распространение и монетизацию.
Если всё-таки поверить, что в этот кластер видео может попасть реальный ребёнок, то тут уже сложно не задуматься о негативном воздействии на формирование личности.

Если там сказано, что создатели не несут ответственности за результаты использования программного продукта, то в чем проблема?
Насколько я помню, если при изучении оказывается что создатель мог заранее знать о деструктивности своего детища, но утаил это от пользователей, то ответственность таки может случится.

Jotun 13-11-2017 13:39 0

Simple_Not, Так подожди, к кому у тебя вопросы - к тем, кто использует автоматическую генерацию контента (и тем самым создаёт вредный контент), или к ютубу, который подсовывает тебе это в рекомендациях?
Если ко второму, то я вообще не вижу проблемы с точки зрения Ютуба.
Поверь, уж их рекомендательная система ни капли не "дефективна". Она максимизирует именно то, что им нужно, а именно прибыль. То, что твой ребенок получит порцию трешово контента, для них является не более, чем мелкой издержкой, причем для них это все равно может быть выгодно, потому что они прокрутят тебе и твоему ребенку таргетированную рекламу во время этого видео и получат свою копейку.
Тут уже надо задуматься о другой проблеме - родителях, которые будут воспитывать ребенка на ютубе, даже не фильтруя то, что он смотрит

13-11-2017 07:14 0

Бессмысленно. Ютуб не публикует свой алгоритм сортировки и рекомендаций, так что доказать его "дефективность" будет довольно сложно.

0 комментариев
13-11-2017 15:46 0

Б-г должен нести ответственность за рак...

0 комментариев
15-11-2017 09:38 0

Смпла укусила Яровая?

0 комментариев
15-11-2017 15:52 0

Тут всё куда сложнее, чем кажется:

Я думал, это параллельная глупость, но нет - это чепуха является порогом вхождения в ElsaGate.

Если без гугла, то концентрат сведений можно нарыть где-то тут:
2ch.hk/zog/res/242283.html
www.reddit.com/r/ElsaGate/

Йотун может много чего говорить, но если некоторое время лазить по этому облаку тегов, то алгоритм выдачи Ютуба начинает подсовывать всё более странные видео. Вплоть до живых плачущих, связанных детей, которых то шлёпают, то делают уколы на камеру.

На массовую (и, вероятно, международную т.к. есть живые тематические видосы, снимаемые в разных странах) иронию не похоже. Подозреваю, даже Опера не сможет вспомнить столь же успешные случаи создания однообразной бессмыслицы.

11 комментариев
BerkutOi 15-11-2017 16:01 +1

Simple_Not, А Ютуб тут причем? он не снимает ведь эти видео

Simple_Not 15-11-2017 16:15 0

BerkutOi, Тогда почему все считают нормальным требовать с него и гугла, чтобы они тёрли ЦП, расчленёнку, оголтелый расизм, итд?

Jotun 15-11-2017 16:40 +1

Simple_Not, Потому что это контент, нарушающий законодательство тех стран, в которых Google представлен?
Беркут прав, причем тут YouTube? Я повторю в очередной раз: тебе рекомендуют не тот контент, который для тебя полезен, интересен и т.п., а тот, с которого они максимизируют ожидаемый заработок.

О твоём же примере: если некоторое время лазить по этому облаку тегов, то алгоритм выдачи Ютуба начинает подсовывать всё более странные видео.
Ты понимаешь, что Ютуб подсовывает тебе эти видео, потому что ты начитался теорий заговора и пошел искать как раз эти самые видео? Более того, переходя на них с детских видео ты как раз сделал свой вклад в тот самый паттерн
Детский контент -> эти стремные видосы
И теперь YouTube продолжит подсовывать эти видео, потому что ты своим же примером показал ему, что эта рекомендация реально работает. С точки зрения рекомендательной системы все окей, потому что такими рекомендациями, которые ты считаешь трешовыми, она отлично выполняет поставленную задачу - максимизировать время твоего пребывания на сайте.

То, что эти видео не удаляются - другое дело. Но тут-то алгоритмы и рекомендации причем? Кинь жалобу на видео, и модераторы рассмотрят ее

Simple_Not 15-11-2017 16:52 0

Jotun, Почему в других случаях если алгоритм выдаёт неадекватное решение ты, если ты сколько-нибудь вменяемый к пользователям человек, будешь выступать за переработку, а тут нет?
тебе рекомендуют не тот контент, который для тебя полезен, интересен и т.п., а тот, с которого они максимизируют ожидаемый заработок
По твоей логике Ютубу можно начать рекламировать кокаин.
С точки зрения рекомендательной системы все окей
До тех пор пока информация о невменяемом контенте плохо распространена. Едва информация станет доступна широким массам, так трафик с детей начнёт стремительно падать.
Если же всё-таки вскроется нечто серьёзное (представим, что там есть нечто серьёзное), то и вся корпорация может ощутимо пострадать. Это, по-твоему, тоже допустимый риск?

BerkutOi 15-11-2017 17:22 0

Simple_Not, По твоей логике Ютубу можно начать рекламировать кокаин.
а как это принесем им больше заработка? но если это легально то почему нет?

Simple_Not 15-11-2017 18:21 0

BerkutOi, А откуда тебе знать, что конечная цель нынешних видосов легальна?

Точно также можно б было прославлять вступление в муджахиды, или в наркокартели. Не напрямую, но как-нибудь аккуратно и немного завуалированно.

cherepets 15-11-2017 18:50 +1

Simple_Not, Гугл ни в одной стране мира пока не стал органом власти. Если ему свыше не объявят какой то тип контента вне закона, гугл будет считать его законным.

Simple_Not 15-11-2017 19:44 0

cherepets, Законность - ладно, для интернациональных корпораций сойдёт.

А что делать с моральной стороной вопроса?
Например, в данном случае вполне можно полагать, что невнимание к такой х*не и максимизация прибыли по Йотуну может привести к отвратительнейшим демографическим последствиям.

cherepets 15-11-2017 19:46 +1

Simple_Not, Для детей есть платные сервисы с модерируемым (чаще даже предзагруженным) контентом. Ютуб - это изначально видеохостинг (свалка вообще всех видео подряд), так что детям там не место. А на взрослых алгоритмы работают как надо.

Jotun 15-11-2017 20:17 0

Simple_Not, Почему в других случаях если алгоритм выдаёт неадекватное решение ты, если ты сколько-нибудь вменяемый к пользователям человек, будешь выступать за переработку, а тут нет?
Давай ты не будешь читать мои мысли?
Поверь, если я сделаю нейронную сеть, которая будет генерировать рекламные изображения, и обнаружу, что она генерирует исключительно мои фото с хуем вместо носа, но это реально максимизирует бизнес-метрику (даёт мне деньги), я буду счастлив и доволен.

Если алгоритм работает и даёт мне профит как по формальной математической метрике, так и в реальном бизнесе, значит клиент хавает. Если клиент хавает, то все довольны.


По твоей логике Ютубу можно начать рекламировать кокаин.
Ты невнимательно читал мой пост. Рекламировать кокаин незаконно.
А вот если бы было законно, и кокаин реально имел бы хорошую конверсию через рекламу на YouTube, поверь, его бы так и рекламировали.

До тех пор пока информация о невменяемом контенте плохо распространена.
Ну вот сейчас она хорошо распространена. Что поменялось?

Едва информация станет доступна широким массам, так трафик с детей начнёт стремительно падать.
...и рекомендательная система соответственно начнёт выдавать другие рекомендации. Браво, ты только что наглядно показал, как работают коллаборативная фильтрация, матричное разложение в пространство латентных признаков и другие алгоритмы рекомендательных систем.

Если же всё-таки вскроется нечто серьёзное (представим, что там есть нечто серьёзное), то и вся корпорация может ощутимо пострадать. Это, по-твоему, тоже допустимый риск?
Это не заложено в алгоритм. Впрочем, я и не считаю, что это случится. Ведь, повторюсь, проблема не в YouTube, а в людях, которые снимают эти глупые ролики.
Проблема ведь не в платформе, а в авторах контента. Никто же не осуждает Twitter за то, что в нём пишет Трамп, например.

Jotun 15-11-2017 20:20 0

Simple_Not, А откуда тебе знать, что конечная цель нынешних видосов легальна?
Вот это лол. Может, ты ещё за мысли о преступлении судить предложить, как в Minority Report?

Знаешь такую штуку, как презумпция невиновности?
Если я рекламирую кокаин, я нарушаю закон (потому что есть законы, запрещающие пропаганду наркотиков). Если я снимаю такие ролики и при этом как-то нарушаю закон, подай на меня в суд.
Если же я снимаю такие видео, имея, как ты говоришь, нелегальную конечную цель, то чтобы она стала нелегальной, я должен нарушить закон. Пока я не нарушил его, я по дефолту невиновен, и никто никак не докажет, какие конечные цели я ставлю.