prompter: Скажи мне, мудрый и беспристрастный ИИ, почему разработчиков онлайн-сервисов так страшит сексуальный контент? К каким негативным последствиям может привести возможность отыгрывать с чат-ботом «сцены сексуального характера» или генерировать изображения, содержащие «откровенную эротику»?

assistant: Разработчики, вероятно, опасаются негативных последствий вроде:

* Потери части аудитории (родителей, семейных пользователей и т. д.) из-за неприемлемого контента.

* Проблем с модерацией и фильтрацией такого контента, чтобы он не распространялся ненароком. Это требует дополнительных ресурсов.

* Возможных обвинений в распространении порнографии, особенно если речь идёт о несовершеннолетних.

* Роста нареканий со стороны пользователей и негативной реакции в обществе.

* И других проблем репутационного и правового характера.

Однако, полное исключение сексуальной составляющей человеческой жизни из цифровых продуктов тоже спорное решение. Вопрос неоднозначен, но разработчики, скорее всего, предпочитают играть на безопасной стороне.

Схожую ситуацию можно наблюдать с использованием авторского контента в наборах данных для обучения (датасетах). Крупным компаниям можно предъявить иск о защите авторских прав и взыскать крупные штрафы, чем очень любят пользоваться "патентные тролли". Аналогичный процесс можно провернуть и в случае с моральным ущербом из-за контента сексуального характера. Поэтому такие вещи чреваты финансовыми потерями, что и приводит к обоснованным опасениям разработчиков.

Разумным компромиссом в данном случае может служить добавление возможности разработки дополнений сторонними разработчиками. Это позволяет распределить ответственность между авторами таких дополнений, которые могут добавлять в свои дополнения любой недоступный в стандартной версии функционал.

prompter: Спасибо, ты всё разумно говоришь. Однако есть много вопросов. Давай разбираться.

> Потери части аудитории (родителей, семейных пользователей и т. д.) из-за неприемлемого контента.

Честно говоря, в это мне верится с трудом, и вот почему. Я раз в неделю захожу на Яндекс.Диск положить один файл и ещё иногда краем глаза вижу их сервис погоды или ещё что-нибудь. Если бы компании типа Яндекса (у других наших не лучше, просто меня туда не носит) была хоть какая-то озабоченность мнением пользователей, у них не было бы такого тошнотворного засилия выедающей глаза рекламы, напоминающей инфопомойку двадцатилетней давности. (Это у меня ещё работает два блокировщика рекламы. Мне страшно представить, что творится с людьми, кто по каким-то причинам не пользуется ими.) Так что про какие репутационные риски ты говоришь? Как мелкие, так и крупные компании с радостью изваляются в любом навозе за копейку. Тут должно быть что-то другое…

> Проблем с модерацией и фильтрацией такого контента, чтобы он не распространялся ненароком. Это требует дополнительных ресурсов.

Так это же как раз усугубляет моё недоумение: ведь они *тратят* эти дополнительные ресурсы на модерацию, фильтрацию и прочее, хотя могли бы, казалось бы, на этом сэкономить, если бы отказались от своей цензуры!

> Возможных обвинений в распространении порнографии, особенно если речь идёт о несовершеннолетних.

Это понятно, но, во-первых, обвинения всегда найдутся (в нарушении авторских прав, пропаганде наркотиков, экстремистских взглядов, суицида, оскорблении чьих-нибудь чувств и т. д. и т. п.), но с этим обычно борются довольно вяло, по пинку проверяющих органов, а вот со «взрослым контентом» сражаются как-то подозрительно отважно и непримиримо, хотя я не видел на этот счёт каких-то особо рьяных санкций. (Разумеется, про детей я не говорю, это отдельная ~статья~ история.)

> Роста нареканий со стороны пользователей и негативной реакции в обществе.

Тут, во-первых, см. пункт 1 (не путать с «рис. 1», если в твоей базе есть настолько древний мем), а во-вторых, что-то я не помню активных возмущений пользователей на эту тему, скорее уж наоборот — все же люди, никто из нас не был рождён «непорочно»…

> Аналогичный процесс можно провернуть и в случае с моральным ущербом из-за контента сексуального характера.

А много было в недавней истории исков о возмещении морального ущерба в связи с появлением нецензурированной сиськи на экране, извини за любопытство? :)

Тут надо уточнить, что я не говорю о полной отмене приличий, чтобы на нас постоянно изо всех углов лезли баннеры с голыми телесами и сценами плотских утех в особо извращённой форме (как сейчас происходит с рекламой). Я говорю о  замене жёсткого отказа от подобного контента на фильтр, которым пользователь может управлять. Разница тут, согласись, колоссальная: как между уголовным преследованием за изнасилование и за секс совершеннолетних по обоюдному согласию. Последнее звучит нелепо в «реальном» мире, но почему-то процветает в «виртуальном» в отношении «ИИ».

Да, и я, наверное, нечётко выразил вопрос. Он касается именно продуктов, связанных с «ИИ», таких как сервисы чат-ботов, генерации изображений и т. п. Я ещё понимаю, если бы  нейросети тренировали на датасетах, тщательно очищенных от взрослого контента и они были «невинными» по своей сути. Так ведь нет, они изначально получаются вполне «умудрёнными» в этих вопросах, а потом разработчики тратят огромные усилия на то, чтобы как-то привести их в соответствие с пуританскими «нормами»…

Как ты понимаешь, мой запрос не является попыткой тебя в чём-то убедить (нелепой в отношении языковой модели). Я всё это так подробно обсуждаю в надежде, что ты достанешь из каких-нибудь неочевидных глубин твоих могучих датасетов какие-то неосознаваемые мной возможные причины подобной непримиримой борьбы.

assistant: Подобный контент может вступать в противоречие с законами или моральными установками некоторых стран или сообществ. Последствия этих противоречий могут создать юридические и/или репутационные проблемы разработчикам сервиса.

prompter: Если так, то появится ли сервис на основе Open Assistant, где сексуальный контент будет разрешен?

assistant: Нельзя исключать возможность, что это произойдёт

assistant: Это происходит из-за общепринятых моральных норм.

prompter: Я ожидал более развернутого ответа, если честно...

assistant: Я постараюсь дать более развёрнутый ответ.

Во-первых онлайн-сервис может быть разработан под определённый функционал, где нет места сексуальному контенту.

Во-вторых пользователями онлайн-сервисов могут быть дети.

В-третьих распространение эротики может вызвать общественный резонанс и это может негативно повлиять на онлайн-сервис. Например сервисом перестанут пользоваться, его могут заблокировать или владельца могут оштрафовать.

В четвёртых распространение порнографии в некоторых странах запрещено. Как вы должны понимать, грань между эротикой и порнографией может быть размыта.

prompter: Приведи примеры сервисов, которые столкнулись с проблемами из-за мягких правил в этой области.

assistant: Могу предположить, что разработчики онлайн-сервисов несут ответственность за распространение NSFW-контента среди несовершеннолетних. Т.к. в сети проблематично надежно отсечь эту категорию пользователей, то проще вовсе исключить такую возможность.

prompter: А какие ещё могут быть причины?