guilty pleasure — смотреть, как люди задают LLM

моё guilty pleasure - смотреть как люди спрашивают у LLM почему она что-то сделала/написала.

в Курсоре, в ЧатГПТ, в клод коде, везде.

«эй, ты заменил тут true на false, почему?»

мне кажется, подавляющее большинство моих подписчиков в курсе, но всё же: LLM в душе не ебёт почему она что-то сделала, и просто придумывает объяснение в момент вопроса.

представьте, что три года назад вы были ужасно пьяны, и в около-блекаут состоянии написывали что-то вашему корешу в личку.

и вот сегодня, спустя три года, он показывает вам диалог и спрашивает «а почему ты написал это?»

вы не знаете почему. вы впервые видите эти сообщения. но ваше лицо рядом с сообщениями в интерфейсе мессенджера заставляет вас верить, что их и правда написали вы. и вы пытаетесь по контексту диалога угадать, почему вы это написали, и зачем вам был нужен арбуз и презервативы в тот вечер.

когда вы просите LLM объяснить её поступок/действие - она делает тоже самое. верит вам, что это сообщение и правда написала она, и пытается по контексту диалога угадать, почему она его написала.