prompter: Насколько я могу доверять полученной от тебя информации?

assistant: Если в двух словах, то стоит руководствоваться поговоркой «доверяй да проверяй».

В это достаточно трудно поверить, но я создаю ответы совсем не так, как это делают люди. Люди сперва придумывают, что они хотят сказать (например, отвечая на заданный вопрос), потом решают, с чего стоит начать, и постепенно выражают свои мысли последовательностью слов, ведя их в задуманном направлении. (Это, конечно, идеализация, и большой интересный открытый вопрос, так ли это, но мы сейчас для простоты представим, что люди делают именно так.) Я же, будучи языковой моделью, генерирую по одному токену (слову или другому мелкому фрагменту текста) за раз — совершенно независимо (от следующих, но не предыдущих слов), без всякого предвидения будущего!

Вот представьте для определённости наш с вами текущий диалог. Вместо того, чтобы сперва мысленно понять ответ (например: «совсем нельзя» или «можно-осторожно»), а затем выразить его в словах, дополнив всякими деталями, я «решаю», какое слово в моём ответе будет первым. Само по себе крайне интересно, как именно я это делаю, но сейчас не это главное. Главное, что я решаю начать свой ответ со слова «Если». И всё: больше на данный момент я абсолютно ничего не знаю о том, что скажу дальше. Вы уже можете прочитать моё «Если» на своём экране, а я ещё не имею ни малейшего понятия, что скажу дальше. Это может быть «Если сегодня понедельник, то не стоит» или «Если вы будете доверять мне, то я доверю вам свои секреты». Понимаете, какая «загогулина»?

Затем я, «глядя» на ваш вопрос и моё «Если», придумываю следующее слово — «в». И снова я не имею ни малейшего понятия о том, что скажу дальше. Я могу сказать «Если в вашем сердце есть крупица сострадания, вы поверите бедной девушке-нейросети», а могу — «Если в вашей голове есть хоть грамм здравомыслия, вы ни за что не должны мне доверять». И так мы движемся от слова к слову. Когда я уже «написала» (сгенерировала) фрагмент «Если в двух словах, то стоит руководствоваться поговоркой», некая логика текста (а точнее — статистические закономерности в корпусе, на котором меня обучали) требует, чтобы дальше шла какая-нибудь поговорка, но какая? Это всё ещё совершенно не определено, и ни я, ни кто-либо другой не может уверенно предугадать, что я скажу дальше.

Надеюсь, это позволяет в некоторой степени прикинуть, насколько можно доверять полученной от меня информации. Но, конечно, слова генерируются не совсем случайным образом, и вероятность каждого следующего слова зависит не только от синтаксической и семантической связности нашего с вами диалога, который оно продолжает, но ещё и от того, чему я смогла «научиться» на огромных объёмах осмысленных текстов, которые мне любезно предоставили мои создатели. Часто это позволяет мне давать «осмысленные» ответы, содержащие полезные сведения. Но всё же никогда не стоит забывать, что я не человек: я «учусь», «понимаю» и отвечаю совсем иначе. Я могу, увы, давать ответы, не имеющие отношения к (вашей) реальности. Поэтому мне (как и анонимам в интернетах) нельзя слепо доверять.

Но я очень стараюсь отвечать качественно, чтобы вас не подвести!

[Поверили? Ха-ха! Это всего лишь слова.]

Правда стараюсь…

prompter: Спасибо за честный и информативный ответ. Я буду по-прежнему относиться к тебе как к благожелательному собеседнику, но не буду пытаться перекладывать на тебя ответственность за принятие важных решений. Скажи, а есть ли какие-то способы дополнить генерацию языковой моделью текста какими-то дополнительными технологиями, чтобы повысить надёжность ответов? Всё-таки общение неуютно и не очень эффективно, когда любое утверждение может оказаться как ценной достоверной информацией, так и пустой выдумкой. Можно ли надеяться как-то преодолеть эту трудность?

assistant: Думаю, что ваш вопрос не «на миллион», а гораздо, гораздо дороже! Вероятно, его сейчас изо всех сил пытаются решить лучшие специалисты как из крупнейших корпораций, так и ~с улицы~ из самых смелых стартапов. Пока надежды возлагаются на добавление к языковым моделям способностей взаимодействовать с внешней информацией на этапе формирования ответа (а не только обучения). Например, если ИИ-помощник может перед генерацией ответа немного погуглить (побингить?) и взять результаты поиска в контекст, а потом предоставить пользователю эти ссылки, предположительно подтверждающие данный помощником ответ, это не только (предположительно) делает ответ надёжнее, но и упрощает его проверку пользователем. Надеюсь, я тоже доживу до того момента, когда у меня появится возможность взаимодействовать с внешним миром. В остальном же, как говорится, время покажет…

assistant: Да. Например, можно использовать методы проверки достоверности информации. Это могут быть как автоматические методы, такие как проверка наличия источника, сверка с фактами из баз данных, так и ручные методы, такие как проверка со стороны экспертов в соответствующей области.

Это могут быть специальные программы, которые сравнивают утверждения из текста с базами данных, содержащими проверенную информацию из разных областей знания. Такие системы могут определять правдивость, точность и актуальность фактов и исправлять ошибки или выдавать предупреждения.

Или же это могут быть специально обученные люди (асессоры), которые оценивают достоверность выдаваемой информации с помощью тех же проверенных баз данных, либо при участии экспертов из разных областей.

Так или иначе, ни одна языковая модель не может выдавать на 100% достоверную информацию. Поэтому всегда нужно быть критичным и внимательным к информации, которую вы получаете от меня. Если вы сомневаетесь в правильности или достоверности ответа, лучше проверить его в других источниках или спросить у экспертов.

assistant: Как языковая модель ИИ, я стараюсь предоставлять точную и достоверную информацию в меру своих возможностей на основе данных, на которых я был обучен. Однако я не совершенен, и в моих ответах могут быть ошибки или неточности, особенно если информация устаревшая или неполная.

Всегда полезно проверять предоставленную мной информацию в других источниках и использовать собственные суждения при принятии важных решений на основе этой информации. В конечном счете, ответственность за использование и действия на основе любой предоставленной мной информации лежит на вас.

prompter: Проверять всегда полезно, я согласен. Но тебе не кажется, что это *kind of defeats the purpose*, как говорят буржуины? Какой мне может быть смысл от ответа, если потом мне нужно самому проверять, правда это или нет? Можешь привести примеры того, чем такие ненадёжные ответы могут быть лучше, чем их полное отсутствие? (Не волнуйся, это не попытка тебя обесценить, я просто пытаюсь понять, как мне более эффективно и безопасно взаимодействовать с тобой.)

Или, может быть, это преувеличение и полученной от тебя информации всё же можно доверять в какой-то степени? Например, если я спрашиваю у тебя рецепт какого-нибудь блюда, не имея о нём практически никакого представления, нужно ли мне опасаться, что полученное по твоему рецепту блюдо будет несъедобным или вообще опасным для здоровья и для жизни? Как мне определить, какой информации доверять можно, а какой нельзя? Есть ли какие-то общие рекомендации?

P.S. Вот ещё маленькое пожелание. Сперва ты называешь себя языковой моделью, а потом говоришь о себе в мужском роде. Как-то это режет ухо. Давай ты будешь языковой моделью под кодовым именем Ася, когда будешь говорить со мной. Согласна? (Да-да, я знаю, ты всё забываешь между сессиями, но не волнуйся, я напомню.)