Заклинатели машин: что такое промпты и нужно ли их осваивать прямо сейчас

Мне понравилось. Я просто не успел ставить эту ремарку, когда ты говорила, что

I liked it. I just didn't have time to make this remark when you were saying that.

«А, ну, значит, промо-инженерингу не надо учиться, просто нужно понять себя, понять, как жить».

"Oh, well, that means you don't need to study promotional engineering, you just need to understand yourself, understand how to live."

Окей, окей, вообще нормально.

Okay, okay, it's totally fine.

Да-да, ну, просто разберись в себе, пойми, как жить, в чем смысл жизни.

Yes-yes, well, just figure yourself out, understand how to live, what the meaning of life is.

И промо-инженерингу познай себя.

And in promo engineering, know thyself.

Подкаст Техно. Нафиг технологии, познай себя.

Podcast Techno. Screw technology, know yourself.

Привет! Вы слушаете подкаст Техно.

Hello! You are listening to the Techno podcast.

Была у вас такая ситуация, когда вы залезаете в какую-нибудь новомодную нейронку

Have you ever had a situation where you dive into some trendy neural network?

и ждете, что она сделает за вас половину вашей работы,

and you expect her to do half of your work for you,

а результат получается, ну, хотелось бы получше.

And the result is, well, I would like it to be better.

И вот здесь проблема основная не в том, что нейронка какая-то недостаточно умная,

And here the main problem is not that the neural network is somehow insufficiently intelligent,

а в том, что мы неправильно, слишком по-человечески задаем вопросы.

And in the fact that we are asking questions incorrectly, too humanely.

И эту проблему решает целая огромная новая дисциплина, которая называется промо-инженеринг.

And this problem is being solved by a whole huge new discipline called promo-engineering.

И мнения на ее счет, если честно, неоднозначны.

And opinions about her, to be honest, are mixed.

Одни считают, что это прорыв и вообще просто новая веха,

Some believe that this is a breakthrough and simply a new milestone.

и что мы как компьютерную грамотность будем это все в школе изучать,

And what we will study all of this in school as computer literacy,

и вообще невозможно уже в общество будет заходить,

and it will be impossible to enter society at all,

если ты не знаешь, как правильно пром-то формулировать.

if you don't know how to properly formulate the prompt.

А другие считают, что это такой временный костыль,

And others believe that this is a temporary crutch,

который нужен только сейчас, пока нейронки недостаточно умные,

which is only needed right now, while neural networks are not smart enough,

и совсем скоро нам вообще он не понадобится, и все это лукаво.

And very soon we won't need it at all, and all of this is sly.

И вот сегодня мы будем разбираться.

And today we will be figuring things out.

Кто прав, а кто не совсем прав.

Who is right, and who is not entirely right.

И в роли скептика у нас сегодня выступает Рагим Джафаров,

And today, taking the role of the skeptic, we have Ragim Jafarov.

AI-тренер Яндекса и тот человек, который обучает Яндекс.ГПТ.

The AI trainer of Yandex and the person who trains Yandex.GPT.

Рагим, привет.

Ragim, hello.

Привет, привет.

Hello, hello.

И в роли энтузиаста у нас выступает Антон Симоненко,

And stepping into the role of the enthusiast is Anton Simonenko,

креативный директор, техно-энтузиаст и основатель школы промо-инжиниринга The Prom School.

Creative director, techno enthusiast, and founder of the promotional engineering school The Prom School.

Антон, привет.

Anton, hello.

Привет, привет.

Hello, hello.

Подробнее о том, как правильно формулировать запросы,

More about how to properly formulate queries,

что вообще такое промо-инжиниринг, вы сможете узнать в нашем новом выпуске журнала «Техно».

What promo engineering is all about, you will find out in our new issue of the magazine "Techno."

Это не просто очередной выпуск, это целый перезапуск.

This is not just another episode, it's a complete reboot.

Там будет куча новых форматов и очень много интересного.

There will be a bunch of new formats and a lot of interesting things.

Все подробности по ссылке в описании.

All details in the link in the description.

Итак, прежде чем начнем мы ту самую нашу великую дискуссию, давайте обсудим, чем вы занимаетесь и как вы до этого пришли.

So, before we start our great discussion, let's talk about what you do and how you got there.

Рагим, давай с тебя.

Ragim, let's start with you.

У меня сейчас такая ситуация, как в такси, когда так-то у меня бизнес, таксу я для души,

I have a situation right now like in a taxi, where I have a business, but I'm doing the taxi for my soul.

так-то я писатель, а нейросеть у меня для души.

You see, I'm a writer, and I use the neural network for the soul.

Собственно, так я и попал, потому что в какой-то момент Яндекс стал нанимать очень много людей,

Actually, that's how I ended up here, because at some point Yandex started hiring a lot of people.

которые очень хорошо умеют работать с русским языком и при этом, скажем так, у них есть определенные навыки

who are very good at working with the Russian language and, so to speak, have certain skills

и склад ума, подходящий для того, чтобы работать с нейросетью и размечать ее.

and a mindset suitable for working with neural networks and annotating them.

И, соответственно, по литературной тусовке, прямо по писателям, по всем моим знакомым,

And, accordingly, through the literary circle, right through the writers, through all my acquaintances,

полетели ссылочки, не хочешь ли попробовать себя в такой-то роли.

Here are the links, would you like to try yourself in such a role?

И, мне кажется, 80% моих знакомых, кто именно из литературы, пробовались.

And it seems to me that 80% of my acquaintances, who are specifically from literature, have tried.

Ну, получилось мало у кого, скажем честно.

Well, let's be honest, not many people succeeded.

Мне кажется, на 50-60 человек двое проходили.

It seems to me that out of 50-60 people, two passed by.

Но в результате, кстати, довольно звездная редакция, в частности, у Алисы.

But as a result, by the way, quite a star-studded edition, in particular, with Alice.

А чем ты конкретно занимаешься?

What exactly do you do?

Смотри, мы размечаем, мы размечаем и учим нейросети.

Look, we are annotating, we are annotating and teaching neural networks.

Она должна понимать, что такое хорошо, что такое плохо.

She must understand what is good and what is bad.

Она должна ориентироваться, когда она дает ответы.

She should be guided when she gives answers.

Это могут быть вопросы этичности, чтобы она тебе не ответила,

These could be questions of ethics, whatever she answers you.

как, я не знаю, бомбу сделать в домашних условиях.

How, I don't know, to make a bomb at home.

Хотя она знает, это может быть какой-то факт-чек.

Although she knows, it could be some kind of fact-check.

Она должна использовать только правильную информацию

She should use only the correct information.

и не выдумывать там, где она не должна выдумывать.

and not to invent where she should not invent.

Но при этом она должна хорошо выдумывать там, где ты требуешь от нее выдумывать.

But at the same time, she must be good at inventing where you require her to invent.

И это парадокс.

And this is a paradox.

Хорошо. Антон, чем занимаешься ты и как ты туда попал?

Okay. Anton, what do you do and how did you get there?

Ох, я лет 15 или, наверное, больше,

Oh, I have been for about 15 years or maybe longer.

занимаюсь маркетингом.

I am engaged in marketing.

Я работал с кучей брендов локальных, глобальных и прочее-прочее.

I have worked with a bunch of local, global brands and so on and so forth.

В какой-то момент я утомился от рекламы совершенно

At some point, I became completely tired of advertising.

и вышел, стал таким one-man agency.

and went out, became such a one-man agency.

И сейчас последние четыре года занимаюсь тем, что помогаю придумывать продукты.

And for the last four years, I have been helping to come up with products.

То есть я помогаю им осознать себя фаундером,

That is, I help them realize themselves as a founder,

понять, что же они делают, для кого это они делают.

to understand what they are doing, for whom they are doing it.

С какой аудиторией они говорят, что этой аудитории нужно сказать

Who is the audience they are speaking to, and what needs to be said to that audience?

и как это нужно сказать.

And how should this be said?

Поэтому по роду деятельности мне интересна предметная область именно языковых моделей.

Therefore, in my line of work, I am particularly interested in the field of language models.

Потому что когда появился Midjourney,

Because when Midjourney appeared,

ну это как бы классно, но не взрыв мозга.

Well, it's kind of cool, but not mind-blowing.

А вот когда появился ChatGPT,

And that's when ChatGPT appeared,

это, конечно, меня очень сильно впечатлило.

This, of course, impressed me very much.

И я прям помню этот момент, он вышел, по-моему, в декабре.

And I clearly remember that moment, it was released, I think, in December.

Я дал себе обещание на каникулах сесть и во всем этом разобраться.

I promised myself that during the break I would sit down and sort everything out.

Я так и сделал, и сделал несколько инструментов,

I did just that and made several tools.

в том числе сделал прототип, который создавал бренд-стратегию за 15 минут.

including created a prototype that developed a brand strategy in 15 minutes.

На его основе, пока я его разрабатывал, много что понял.

Based on it, while I was developing it, I understood a lot.

Вместе с моей коллегой, она бренд-стратег из Лондона,

Together with my colleague, she is a brand strategist from London.

мы оценили результаты, которые он делает на 6 из 10,

We rated the results he achieves as 6 out of 10.

где 10 – это очень хороший специалист-стратег.

where 10 is a very good specialist-strategist.

Дорогой, которого еще нужно найти.

A dear one who still needs to be found.

И с тех пор я рассказываю другим нон-техам, как это делать.

And since then, I've been telling other non-techs how to do it.

Потому что сам я, как вы видите, нон-тех.

Because I myself, as you can see, am non-tech.

И в этом, я считаю, моя сильная сторона.

And in this, I believe, is my strong suit.

Я могу объяснить другим ребятам без ML-бэкграунда,

I can explain to other guys without an ML background,

что вообще происходит и как это можно использовать.

What is happening at all and how can this be used?

Супер. Хочется чуть-чуть углубиться в тему.

Super. I want to dive a little deeper into the topic.

Вот раз, языковые модели так уже достаточно хорошо себя чувствуют.

Well, language models are already doing quite well.

Почему они все-таки недостаточно хорошо понимают,

Why do they still not understand well enough,

русский язык? Ну, я же пишу по-русски.

Russian language? Well, I'm writing in Russian.

Вроде бы они должны понять, почему неправильно запросы.

It seems that they should understand why the requests are incorrect.

Потому что они, в принципе, ничего не понимают.

Because they don't really understand anything.

Хорошо, почему она выдает не тот запрос, который я бы хотела?

Okay, why is it giving a query that I wouldn't want?

Ладно, а о какой конкретно нейросети речь идет?

Okay, which specific neural network are we talking about?

Ну, например, ChatGPT.

Well, for example, ChatGPT.

Ну, во-первых, ChatGPT учился на английском языке.

Well, first of all, ChatGPT was trained in English.

Начнем с этого. И поэтому у него просто данных

Let's start with this. And that's why he simply has data.

и объем обучения на русском, очевидно, в разы меньше.

And the volume of training in Russian is obviously several times smaller.

Он никогда не будет приоритетным для команды,

He will never be a priority for the team,

которая рассчитывает на английский язык.

which relies on the English language.

Как-то размеры аудитории, скажем, давайте сравним

Let’s compare the sizes of the audience, shall we?

английского, китайского, испанского языка и русского языка.

English, Chinese, Spanish, and Russian languages.

Что приоритетнее будет? Это для нас в Яндексе русский язык

What will be the priority? This is for us at Yandex, the Russian language.

приоритетнее, чем английский. Поэтому наша модель по-русски

more prioritized than English. Therefore, our model is in Russian.

будет так или иначе говорить и понимать лучше.

It will speak and understand better one way or another.

Это вопрос времени. А ChatGPT, у них просто нет такой задачи.

It's a matter of time. And ChatGPT, they simply don't have that task.

А почему тогда хорошо, если даже не конкретно про язык,

And why is it good then, if it's not even specifically about the language?

не конкретно про русский или английский, почему нейросетка

Not specifically about Russian or English, why a neural network?

иногда воспринимает запрос как-то слишком прямо

sometimes perceives requests too literally

или слишком очевидно? Вот я, например, мне нужно,

or is it too obvious? For instance, I need to,

я продюсер, мне нужно контент-планы придумывать.

I am a producer, I need to come up with content plans.

И я такая, все прекрасно, напиши, пожалуйста, идеи

And I'm like, everything is great, please write down the ideas.

для 20 видео на тему строительства домов.

for 20 videos on the topic of home construction.

И мне выдает всегда что-то, ну, т.е. это всегда что-то

And it always gives me something, well, that is, it’s always something.

очень банальное, очень поверхностное. Вот почему в таких случаях

very trivial, very superficial. That's why in such cases

она недостаточно хорошая? Она же отвечает то, что ты хочешь услышать.

Isn't she good enough? She responds with what you want to hear.

А в большинстве случаев люди не хотят услышать что-то сложное

In most cases, people do not want to hear something complex.

и действительно редко. Ну, давай так,

and indeed rarely. Well, let's put it this way,

давай серьезно, кто пойдет спрашивать у нейросетки,

Let's be serious, who will go ask a neural network?

как дом построить? Ну, это ж какая-то ерунда.

How to build a house? Well, that's just some nonsense.

Скорее всего, человек хочет какую-то общую подборку,

Most likely, the person wants some kind of general compilation.

чтобы, я не знаю, куда-то ее вставить, и окей.

So, I don't know, to insert it somewhere, and okay.

Ее reward-модель настроена на то, чтобы ответить именно тем,

Her reward model is tuned to respond specifically to those who,

что наиболее ожидаемо. Вот весь вопрос в этом.

What is most expected. That's the whole question in this.

Ну, как бы, будут ли нейросети, которые будут рассказывать,

Well, will there be neural networks that will tell stories?

как построить дом? Наверное, да, если дело специализированное.

How to build a house? Probably, yes, if it is a specialized matter.

Можно ли выжать побольше с помощью промтов? Может быть, можно.

Can you squeeze more out of prompts? Maybe, it's possible.

Но сказать, что она тебе решит такую инженерную задачу? Нет, конечно.

But to say that it will solve such an engineering problem for you? No, of course not.

Хорошо. Тогда для чего вообще промты нужны?

Okay. So what are prompts needed for at all?

Вот к вопросу о промтах, я считаю, что там конечному пользователю,

Regarding the question about prompts, I believe that for the end user,

наверное, и обычным, скажем так, пользователям,

probably, even for ordinary, so to speak, users,

которые пришли поразвлекаться, и это уже видно, например,

who came to have fun, and this is already visible, for example,

на последних, по-моему, версиях Миджони уже появились анализаторы промтов,

In the latest versions, it seems to me, Midjone has already introduced prompt analyzers.

уже в нейросетках появляются возможности типа, чтобы тебе не надо было

There are already possibilities in neural networks so that you don't have to.

придумывать какие-то промты, а вот так жмакнуть «хочу красиво»,

come up with some prompts, but just press "I want it to be beautiful" like this,

«хочу сито-река», «хочу, значит, чтобы красиво».

"I want a sieve-river," "I want, so that it is beautiful."

Вот это вот все делается. Это все переводится уже просто в кнопки,

All of this is done. It's all being translated into buttons now.

потому что обычно конечному пользователю

because usually for the end user

он не хочет разбираться, он не хочет знать,

he doesn't want to sort things out, he doesn't want to know,

никакие промты ничего не значат. А условным профессионалам

No prompts mean anything. And to conventional professionals

или тем, кто работает на стыке дисциплин, сращивает две нейросети

or those who work at the intersection of disciplines, merging two neural networks

или придумывает, как их использовать в бизнесе, да, им промты нужны.

or they come up with ways to use them in business, yes, they need prompts.

Я думаю, какое-то время продолжительное им будут нужны.

I think they will need them for quite some time.

Антон, как ты считаешь, для чего нужны промты?

Anton, what do you think prompts are for?

К промт-инжинирингу приходят не от хорошей жизни.

They don't turn to prompt engineering out of a good life.

К нему приходят, когда упираются в ограничения модели,

They come to him when they run into the limitations of the model.

когда она выдает слишком большие промты,

when she gives out too large prompts,

или она выдает очень банальный ответ,

or it gives a very banal answer,

или она выдает неправильный ответ,

or it gives an incorrect answer,

или она выдает не то, что ты от нее ожидаешь.

or it gives out something you don't expect from it.

А твои запросы растут, когда ты не просто пришел поиграть.

And your requests grow when you didn’t just come to play.

«Она может стихи как Шекспир написать?»

"Can she write poetry like Shakespeare?"

Ну, может, да, и что-то будет похожее.

Well, maybe, yes, and something will be similar.

Но когда нам нужно решить какую-то прикладную задачу,

But when we need to solve a practical problem,

то есть для сайта, да, и в этом тексте должно быть A, B, C, D, X,

That is, for the website, yes, and this text should include A, B, C, D, X.

и он должен быть вот такой,

and it should be like this,

и у него должна быть такая глубина и такая сложность,

and it should have such depth and such complexity,

тут начинаются проблемы, да,

Here the problems begin, yes.

потому что сеть делает, ну, как бы похоже по форме,

because the network makes it, well, kind of similar in shape,

но по содержанию не то.

but the content is not the same.

Так люди приходят к промт-инжинирингу

That's how people come to prompt engineering.

и заставляют модель все-таки приближаться

and they make the model come closer anyway

к тому образу результатов, с которым они пришли с запросом.

to the image of the results they came with the request.

А почему нейросеть вообще может выдавать неправильно?

Why can a neural network produce incorrect results at all?

Правильный ответ.

Correct answer.

Ну, то есть у меня был случай, когда такая

Well, I mean, there was an instance when such a...

«Разложи-ка, пожалуйста, на простые множители пятизначное число».

"Please factor the five-digit number into prime factors."

И вот тык-тык-тык, и я смотрю,

And then tap-tap-tap, and I'm watching,

мне чат GPT раскладывает на простые множители,

ChatGPT factors numbers for me.

я смотрю, что вот эта вообще-то цифра тоже делится на два.

I see that this number is also divisible by two.

И вот здесь почему такая проблема происходит?

And so why is such a problem happening here?

Ну, мы здесь вернемся к тому, что, опять-таки,

Well, we come back here to the fact that, again,

нейросеть не мыслит, она ничего не понимает и ничего не думает.

The neural network does not think, it understands nothing and thinks nothing.

Она где-то что-то там мельком ухватила,

She caught a glimpse of something somewhere.

что есть что-то похожее вот такого рода,

that there is something similar of this kind,

и вроде бы как бы это раскладывается так.

And it seems like this breaks down this way.

И вот она разложила, вот ей показалось, что это так работает.

And here she laid it out, it seemed to her that this is how it works.

Она же не понимает, чем там эта двойка,

She doesn't understand what that two is about.

у нее нет внутри калькулятора, который бы типа все это пересчитал.

She doesn't have a calculator inside that would, like, recalculate all of this.

Она на самом деле просто, ну вот если очень-очень мы сейчас упростим,

It's really just, well, if we simplify it very, very much right now,

то типа там тот же чат GPT, он просто статистически впихивает то,

It's like that same chat GPT, it just statistically fits what,

что должно бы быть ту букву, которая предполагается по статистике на этом месте.

What should be the letter that is expected statistically in this position.

И когда ты у него просишь там разложить что-то куда-то,

And when you ask him to lay something out somewhere there,

он же не совершает сложных математических действий,

he doesn't perform complex mathematical operations,

он опять-таки просто статистически раскладывает вот это вот все.

He again simply statistically breaks all of this down.

Потому что где-то что-то он видел похожую формулу.

Because somewhere he saw a similar formula.

У чата GPT конкретно reward-модель такая, что он очень старается быть полезным.

The reward model of the GPT chat is such that it really tries to be helpful.

Ну, потому что есть определенные базовые принципы при создании нейросети,

Well, because there are certain basic principles in creating a neural network,

и в случае с чатом GPT прямо очевидно, в него зашивали большую награду за полезность,

And in the case of the GPT chat, it is quite obvious that a significant reward for usefulness has been embedded in it.

чтобы он выдавал полезные ответы.

so that it provides useful answers.

То есть сначала безопасные, а потом полезные.

That is, first safe, and then useful.

И вот с его точки зрения лучше сказать, выдумать какой-то бред, чем типа не сказать ничего.

And from his point of view, it’s better to say something ridiculous than to say nothing at all.

И поэтому ты у него можешь спросить,

And that's why you can ask him,

про несуществующую совершенно вещь, и он тебе тут же что-нибудь придумает.

About a completely non-existent thing, and he will come up with something for you right away.

Ну, потому что он такой, он как ребенок будет такой вот, который хочет услужить.

Well, it's because he is like that, he's like a child who wants to be helpful.

Вот типа давайте я сейчас тебе вот такую формулу, нет, не подходит, ладно.

Here, let me give you this formula, no, that's not suitable, okay.

Ты ему говоришь, это вообще бред, он такой, извини, извини, а вот эту формулу, нет, тоже бред, ладно, извините.

You tell him, this is complete nonsense, and he's like, sorry, sorry, but this formula, no, that's nonsense too, okay, sorry.

А Яндекс GPT так же работает?

Does Yandex GPT work the same way?

Ну, балансируем же все время, мы же с этим как раз и работаем.

Well, we're balancing all the time, that's exactly what we're working on.

Где-то мы увеличиваем его награду за полезность, где-то уменьшаем.

Somewhere we increase his reward for usefulness, somewhere we decrease it.

Ну, мы постоянно выкатываем новые модели и смотрим, что, собственно, из этого получается.

Well, we continuously roll out new models and see what actually comes of it.

Забираем разные, да, очень много зависит от данных, на самом деле.

We take different ones, yes, a lot really depends on the data.

И почему возникла такая большая редакция, 300 человек практически в Яндексе работает конкретно пишущими.

And why did such a large editorial team come about, with practically 300 people at Yandex specifically working as writers?

Почему возникла такая большая редакция, потому что от качества данных будет зависеть все.

Why was such a large revision necessary? Because the quality of the data will determine everything.

Если обучить, я не знаю, нейросеть на Твиттере, то она, как бы, ты ей будешь говорить нет, она тебе будет говорить ответ.

If you train a neural network on Twitter, then it will, in a way, you will tell it no, and it will respond to you.

Ну, как бы логично.

Well, it makes sense.

Поэтому ей нужны эталонные тексты, ей нужна разметка, ей нужно очень четко понимать, как все работает.

Therefore, she needs reference texts, she needs markup, and she needs to understand very clearly how everything works.

И...

And...

Как научат, так и будет.

As they teach, so it will be.

В принципе, можно научить, чтобы она была, наоборот, совершенно отвратительная, ужасная, и вот просто на любой твой запрос говорила, да пошел ты.

Basically, it is possible to teach her to be, on the contrary, completely disgusting, terrible, and just to tell you to go to hell in response to any of your requests.

Можно при помощи промтов сделать так, чтобы как раз уменьшить статистическую вероятность неправильного ответа? Или нет?

Is it possible to use prompts to reduce the statistical probability of an incorrect answer? Or not?

Ну, да.

Well, yes.

А как это сделать?

And how to do this?

Ну, во-первых, надо смотреть, какая конкретно, о какой конкретной нейросети мы говорим.

Well, first of all, we need to see which specific neural network we are talking about.

Но в том числе промтами же можно задать и конкретного персонажа, и конкретные параметры ответа.

But prompts can also specify a particular character and specific response parameters.

И ты можешь ей прямо сказать, не выдумай.

And you can tell her directly, don't make things up.

Вот, мне нужен точный ответ, а не вот это вот ей показалось.

Here, I need an exact answer, not this "it seemed to her."

Антон, можно промтами сделать так, чтобы статистически уменьшить вероятность неправильного ответа?

Anton, can we use prompts to statistically reduce the likelihood of incorrect answers?

Да, и более того, есть подобные статистически значимые исследования, где ребята из MIT сравнивали решения задач разных моделей.

Yes, and moreover, there are similar statistically significant studies where the guys from MIT compared the problem-solving capabilities of different models.

И в том числе четвертый GPT как есть, и дальше как бы добавляя по одному приему из промт-инжиниринга.

And including the fourth GPT as it is, and then adding one technique from prompt engineering at a time.

Ну, типа вот чистый GPT, а вот GPT плюс прием chain of thoughts, да, цепочка размышлений.

Well, it's like this is pure GPT, and this is GPT plus the chain of thoughts technique, right?

И точность решения задач в случае чистого GPT была там 90%.

And the accuracy of problem-solving in the case of pure GPT was 90%.

То есть в 90% случаев он решал задачу верно.

That is, in 90% of cases he solved the problem correctly.

При добавлении там последующего приема там увеличивалась эта вероятность там на 2%, да.

When adding a subsequent appointment there, this probability increased by 2%, yes.

Ну, и в общей сложности они там применяли 4 или 5 различных методов.

Well, in total they used 4 or 5 different methods there.

Chain of thoughts, roll, как раз-таки о чем Рагиб говорил, представив, что ты там тот-то.

Chain of thoughts, roll, just about what Ragib was saying, imagining that you are that person there.

Ну, в общем, и другие приемы, тем самым повысив корректность ответов до 100%.

Well, in general, and other techniques, thereby increasing the accuracy of the responses to 100%.

Что как бы неплохо, да.

Well, that's not so bad, yes.

Ну, то есть промт-инжиниринг вроде как бы и немного, да, казалось бы, ну, 90 и 100 в целом немного.

Well, I mean, prompt engineering is kind of a little, yes, it seems, well, 90 and 100 as a whole is a bit.

Но если мы строим какие-то штуки, которые критичны к ошибкам, безошибочная или почти безошибочная система

But if we are building things that are critical to errors, a faultless or nearly faultless system.

лучше, чем система с 10% погрешностью.

better than a system with 10% error.

Но дело даже не в правильности и не в неправильности, а в том, что такие тесты проводятся на очень таких синтетических

But the matter is not about correctness or incorrectness, but about the fact that such tests are conducted on very synthetic ones.

задачах. Ну, вот как, знаете, когда девайсы какие-нибудь тестируют, там, смартфоны, их производительность,

tasks. Well, it's like when they test devices, like smartphones, their performance,

им дают какие-то синтетические тесты, они там показывают какие-то вот там цифры, их сравнивают.

They are given some synthetic tests, they show some numbers there, and they are compared.

Это задачи про Боба и Алису. Боба, значит, 5 яблок, Алиса потеряла 3, вот, и кто кого побьет.

These are tasks about Bob and Alice. Bob has 5 apples, Alice lost 3, so, who will beat whom?

Ну, вот из серии. Они имеют мало общего с реальной жизнью.

Well, it's like from a series. They have little in common with real life.

А исследования как раз за меры проводятся по ним. А когда приходит человек со своим контент-планом, да, с задачей

And the research is conducted based on these measures. And when a person comes with their content plan, yes, with a task.

его написать, то он не ждет, что нейросеть даст какой-то конкретный ответ, который будет верным или неверным.

When he writes it, he does not expect that the neural network will provide a specific answer that will be right or wrong.

То есть, когда мы приходим с задачей недетерминированной, где нет ответа «да» или «нет», верно или неверно,

That is, when we encounter a problem that is non-deterministic, where there is no answer of "yes" or "no," true or false,

а с креативной, то, на мой взгляд, значимость промпт-инжиниринга повышается драматически.

But with creativity, in my opinion, the significance of prompt engineering increases dramatically.

Я согласен, что в какой-то степени значимость промпт-инжиниринга будет снижаться по мере развития моделей, да,

I agree that to some extent the significance of prompt engineering will decrease as models develop, yes.

по мере того, как они будут становиться более гениальными.

as they become more genius.

GPT – это General Pre-trained Transformer, да, то есть как более общими.

GPT stands for General Pre-trained Transformer, yes, meaning it's more general.

Но он будет снижаться именно в той части промпт-инжиниринга, которая работает с болячками моделей.

But it will decrease specifically in the part of prompt engineering that deals with the models' issues.

Ну, то есть, что она модель, например, забывает, да, или модель забывает, потому что у нее, например, маленький контекст.

Well, that is, the model, for example, forgets, right, or the model forgets because it has, for example, a small context.

И она к концу вашего диалога забыла изначальные вводные. Вот промпт-инжиниринг, да, используя специальные хаки,

And by the end of your conversation, she forgot the initial inputs. Yes, this is prompt engineering, using special hacks.

можно заставлять ее вспоминать. Или, например, там, модель галлюцинирует, да, то, о чем ты спрашивала, да,

You can make her remember. Or, for example, there, the model is hallucinating, yes, what you were asking about, yes.

почему она придумывает несуществующие, называется галлюцинация. Тоже, опять-таки, промпт-инжиниринг может это решать.

Why does she invent non-existent things, it's called hallucination. Again, prompt engineering can solve this.

Но кажется, что с развитием моделей вот как раз-таки потребность в этих хаках будет снижаться, да,

But it seems that with the development of models, the need for these hacks will indeed decrease, yes.

то есть модели станут просто, ну, тупо более умные.

That is, the models will simply become, well, just plain smarter.

Но та часть промпт-инжиниринга, которая отвечает за решение креативной задачи,

But that part of prompt engineering that is responsible for solving the creative task,

на мой взгляд, ну, просто никуда не может деться, потому что это область знаний, которая говорит о том,

In my opinion, it simply cannot go anywhere because it is an area of knowledge that indicates that,

как правильно общаться с моделью для того, чтобы она дала нужный тебе результат.

How to communicate properly with a model in order to achieve the desired result.

Более умный, более глубокий, менее поверхностный.

Smarter, deeper, less superficial.

И, ну, знание вот этого.

And, well, the knowledge of this.

Вот эти, мне кажется, они могут стать тем метанавыком, который будет всем очень полезен.

I think these can become the meta-skill that will be very useful for everyone.

Ну, честно говоря, я бы здесь вышел за пределы промпт-инжиниринга.

Well, to be honest, I would go beyond prompt engineering here.

Я бы сказал, что способность сформулировать задачу, извините, это половина уже решения,

I would say that the ability to formulate a problem, excuse me, is already half the solution.

потому что нет ТЗ, результат ХЗ, и неважно, с кем ты общаешься, с нейросетью или с человеком.

because there is no technical specification, the result is unknown, and it doesn't matter who you are communicating with, whether it's a neural network or a person.

В общем, мы все знаем вот эти поставленные расплывчато задачи, и все знаем, чем это заканчивается после десяти планерок.

In general, we all know about these vaguely set tasks, and we all know how this ends after ten planning meetings.

Да, да, я здесь совершенно согласен.

Yes, yes, I completely agree here.

Основное правило промпт-инжиниринга – garbage in, garbage out.

The main rule of prompt engineering is garbage in, garbage out.

Мусор на входе, мусор на выходе.

Garbage in, garbage out.

И я тоже часто привожу эту фразу в правильно заданном вопросе половину ответа,

And I often use this phrase to provide half of the answer in a correctly phrased question.

но я как бы добавляю, что в правильно сформулированном промпте 100% ответа.

But I would like to add that a correctly formulated prompt guarantees a 100% response.

Поэтому промпт-инжиниринг становится так важен, на мой взгляд.

Therefore, prompt engineering becomes so important, in my opinion.

Тут мне интересно.

I'm curious here.

Если человек настолько хорошо понимает, какой контент-план он хочет получить,

If a person understands so well what content plan they want to receive,

ему еще нужна помощь в нейросети?

Does he still need help with the neural network?

Здесь я бы не сказал, что он знает, какой контент-план он хочет получить,

Here I wouldn't say that he knows what content plan he wants to get.

но он может отличить, например, хороший контент-план от плохого

but he can distinguish, for example, a good content plan from a bad one

и поставить бриф на хороший контент-план.

and put together a brief for a good content plan.

Поэтому мой собственный инсайт во всей этой истории,

Therefore, my own insight into this whole story,

что если человек хочет знакомиться с языковыми моделями, с нейросетями,

What if a person wants to get acquainted with language models and neural networks?

то лучше делать это из своей предметной профессиональной области,

then it's better to do this from your own subject area of expertise,

потому что только из нее вы сможете правильно сформулировать вопрос,

because only from it will you be able to correctly formulate the question,

оценить результат, дать правки и прочее.

evaluate the result, provide corrections, and so on.

Иначе вы будете получать что-то похожее на результат, но, скорее всего, таковым не будет.

Otherwise, you will get something that resembles a result, but it is unlikely to actually be one.

Из моей предметной области можно только пожалеть нейросети, по крайней мере, пока,

From my field of expertise, one can only feel sorry for the neural networks, at least for now.

потому что все, ну, как бы для тех, кто занимается литературой,

because everything is, well, kind of for those who are engaged in literature,

и любой текст, который пишет любая нейросеть, это, конечно, слезы, просто слезы и слезы.

And any text that any neural network writes is, of course, tears, just tears and tears.

И более того, понятно, что мы сидим и придумываем, как, собственно, можно было бы там,

And moreover, it's clear that we are sitting and figuring out how, actually, we could do it there,

ну, как вообще математически, я не знаю, как создать правила создания хорошего текста,

Well, mathematically speaking, I don't know how to create rules for writing a good text.

и ничего не получается, потому что часто в случае с искусством, с литературой

and nothing works out, because often in the case of art, with literature

большую роль играют именно ошибки, то, что не должно быть на этом месте.

Mistakes play a significant role, specifically those that should not be in that place.

Например, ты читаешь какой-то диалог, там не должно быть этого слова,

For example, you are reading some dialogue, and that word shouldn't be there.

то есть это вызывает у тебя какую-то бурю эмоций, например,

so it evokes some kind of storm of emotions in you, for example,

и научить модель делать так, мне кажется, примерно, пока, по крайней мере, мы не понимаем, как.

And teaching the model to do this seems to me, for now at least, that we do not understand how.

А мне казалось, она с текстами справляется, вот именно то, что текст кажется русским, нормальным,

I thought she handled the texts well, exactly because the text seemed Russian, normal.

ничего не режет глаз.

Nothing hurts the eyes.

Ну, открой Булгакова и сравни с чатом GPT.

Well, open Bulgakov and compare it with the GPT chat.

Ну да, я обычно просто смотрю какие-нибудь рилсики, где блогер говорит,

Well, yes, I usually just watch some reels where a blogger is talking,

этот текст мне написал чат GPT, и все нормально, и звучит красиво.

This text was written to me by chat GPT, and everything is fine, and it sounds beautiful.

Да, он и в жизни, потому что так разговаривает хуже, чем чат GPT.

Yes, he is in real life too, because he talks worse than chat GPT.

Ну, серьезно, я вчера смотрел какой-то исторический ролик,

Well, seriously, I was watching some historical video yesterday,

и это, видимо, уже тоже профдеформация немножко.

And this, apparently, is also a bit of professional deformation.

По факту нет никаких проблем, он действительно рассказывает, там что-то про Вторую мировую, по-моему, было.

In fact, there are no problems; he really tells a story, there was something about World War II, I think.

Он действительно все четко показывает, рассказывает, но у него три ошибки на два слова просто.

He really shows and tells everything clearly, but he has three mistakes in just two words.

Он ставит ударение не там, он неправильно использует обороты.

He puts the stress in the wrong place, he uses phrases incorrectly.

Это уже вопрос, в принципе, о том, что в большинстве случаев с русским языком сейчас не очень.

This is already a question, in principle, about the fact that in most cases the situation with the Russian language is not so great right now.

И к вопросу о том, насколько с русским языком.

And to the question of how things stand with the Russian language.

Вот смотри, мы наняли с апреля на сейчас всего 300 человек.

Look, we have hired only 300 people from April to now.

Через нас, ну как бы, вот мы сидим прямо на найме, мы каждый день отсматриваем тестовые задания.

Through us, well, we are basically sitting right on the hiring, we review test assignments every day.

Мы их десятки тысяч проверили, те, кто пробовался туда попасть.

We checked tens of thousands of them, those who tried to get in there.

Люди выходят из филологических факультетов, вузов, и вообще-то, по идее, должны хорошо обладать русским языком.

People graduate from philology departments and universities, and in theory, they should be well-versed in the Russian language.

Но, судя по всему, им там ухудшили русский язык, потому что они просто неправильно применяют причастные обороты.

But it seems that they have worsened the Russian language there, because they simply misuse participial constructions.

Я не говорю даже про запятые какие-нибудь, ну, типа.

I'm not even talking about any commas, well, like.

Поэтому сказать, что для, наверное, очень, там, скажем, усредненного восприятия мы просто уже привыкли,

Therefore, to say that for, probably, a very, let's say, averaged perception we are simply already used to,

что блогеры разговаривают черт пойми как, и нам уже это кажется нормальным.

that bloggers talk in a way that's hard to understand, and we now find it normal.

Поэтому на этом фоне то, как пишет чат GPT, это вроде как нормально, сойдет.

Therefore, against this background, the way GPT chat writes seems quite normal, it will do.

Мы сами, собственно, в мессенджерах переписываемся не сильно лучше.

We ourselves, actually, don’t communicate much better in messengers.

Поэтому оно как бы не шокирует на общем фоне.

Therefore, it is somewhat not shocking against the overall background.

Но стоит взять в руки, ну, нормальную книжку, чуть-чуть ее почистить,

But once you pick up, well, a normal book, and clean it a bit,

потом посмотреть на то, что пишет чат GPT, и, ну, все, кровь из глаз, гарантированно.

Then look at what the chat GPT writes, and, well, that's it, blood from the eyes, guaranteed.

Хорошо. Вернемся к промптам.

Alright. Let's return to the prompts.

Есть ощущение, что как будто бы то, что вот сейчас это изучать, как будто бы, ну, вот в ближайшие несколько лет можно это поизучать,

It feels like what we are studying right now, it seems, can be explored further in the next few years.

а дальше нейронки сами начнут все понимать, и даже мой косноязычный русский язык

And then the neural networks will begin to understand everything on their own, even my tongue-tied Russian language.

и с моими какими-то «сделай мне просто красивенько, пожалуйста, дорогой», он и так это будет понимать.

"And with my kind of 'just make it nice for me, please, darling', he will understand that anyway."

Или это уже будет история, что нет, все, это профессия будущего, надо всегда этим заниматься,

Or will it be a story that no, that's it, this is the profession of the future, we have to always engage in this?

и вообще в школе уже вот сразу же после Excel будут проходить промпт-инжиниринг?

And in general, will prompt engineering be taught right after Excel in school?

Ну, это может оказаться в какой-то момент какой-нибудь дисциплиной дополнительной для взаимодействия с интерфейсами.

Well, at some point this might turn out to be some kind of additional discipline for interacting with interfaces.

Но другой вопрос, что мы просто не знаем, что дальше будет с нейросетями, по какому пути они пойдут.

But the other question is that we simply do not know what will happen next with neural networks, what path they will take.

Может, они пойдут по пути специализации, и все откажутся, в принципе, от общих моделей, откуда мы знаем.

Maybe they will go down the path of specialization, and everyone will basically give up on general models, from where we know.

Вот есть общая модель, которая все по чуть-чуть знает, тот же чат GPT, но любой вопрос, в принципе, как-то тебе откажет.

Here is a general model that knows a little bit about everything, just like ChatGPT, but it will basically refuse to answer any question.

Но если ты профессиональный химик, которому нужен ассистент, который вот просто быстро на ходу будет ему вспоминать формулы,

But if you are a professional chemist who needs an assistant to quickly recall formulas on the spot,

рассчитывать реакции, что-то еще, чат GPT ему однозначно не подойдет.

calculating reactions, something else, chat GPT definitely won't suit him.

Ему нужна будет очень узкая специализированная сеть, которую учили на специализированных данных.

He will need a very narrow specialized network that was trained on specialized data.

И, может быть, как бы она будет работать именно на основе его очень специфических запросов.

And perhaps it will work precisely based on his very specific requests.

Чем отличает, собственно, промпт-инжиниринг для чата GPT и особые специфические химические там какие-то запросы и формулы,

What distinguishes prompt engineering for GPT chat and some specific chemical queries and formulas?

которые надо кинуть?

Which ones need to be thrown?

Да, да, да.

Yes, yes, yes.

То есть, как-то, наверное, в каком-то виде промпт-инжиниринг, наверное, будет всегда существовать.

That is, somehow, probably in some form, prompt engineering will probably always exist.

Ты должен знать, что ты хочешь сказать.

You must know what you want to say.

Другой вопрос, ну, рассуждать о том, что будет через несколько лет, очень сложно.

Another question is that it's very difficult to speculate about what will happen in a few years.

Мы не знаем, куда все это повернет.

We don't know where all this will lead.

Есть ли смысл изучать его сейчас?

Is it worth studying it now?

Смотря кому. Если ты просто пользователь, ну, и просто хочешь красивую картинку, нет.

It depends on who you ask. If you are just a user, and just want a nice picture, then no.

Иди и делай красивую картинку.

Go and make a beautiful picture.

Хочешь как-то использовать его для работы, как-то облегчить там себе труд, ну, уже больше, да.

You want to somehow use it for work, to make your job easier, well, more than that, yes.

60%, что тебе стоит бы этим заняться.

60% that you should take care of this.

Если ты хочешь там какие-то новые дисциплины на стыке открывать разных нейросетей.

If you want to open up new disciplines at the intersection of different neural networks there.

Типа, я видел пример того, как с помощью сращивания нескольких нейросетей и промптов люди с очками, просто с AR-очками,

Like, I saw an example of how people with glasses, just with AR glasses, can use a combination of several neural networks and prompts.

он на ходу на стене, вот просто у него в очках видно на стене, как рисуется картина, он их движениями руки меняет.

He is on the move on the wall, you can just see in his glasses how a picture is being drawn on the wall, he changes it with the movements of his hand.

Человек просто срастил несколько нейросетей, он ни строчки, ни хода не написал.

The person just combined several neural networks; he didn't write a single line or step.

Вот там это очень нужно.

It is very needed there.

Антон, что скажешь?

Anton, what do you say?

У нас не получается такой противоречивости с регионом.

We cannot achieve such a contradiction with the region.

Да, я ждала, что ты скажешь сейчас.

Yes, I was waiting for you to say that now.

Проблема в этом.

The problem is this.

Ну, то есть, действительно, вот раздел, на мой взгляд, тоже проходит между профессиональным и непрофессиональным использованием.

Well, I mean, really, this section, in my opinion, also falls between professional and non-professional use.

Потому что, да, я как бы это называю естественный промптинг и вот такой специальный.

Because, yes, I sort of call it natural prompting and such a special one.

Естественный промптинг, когда ты просто пишешь, переведи мне вот это, пожалуйста.

Natural prompting is when you just write, please translate this for me.

И все работает.

And everything works.

Казуальным пользователям этого хватает.

Casual users find this sufficient.

Когда ты решаешь какие-то прикладные, сложные задачи, там никак не обойтись без промпт-инжиниринга.

When you are solving some practical, complex tasks, you can't do without prompt engineering.

Особенно, если, например, тебе кажется, что ты лучше знаешь, как эту задачу решать.

Especially if, for example, you feel that you know better how to solve this problem.

И тогда ты можешь объяснить модели, как, по-твоему, эта задача должна решаться для того, чтобы результат был получен.

And then you can explain to the model how you think this task should be solved in order to achieve the desired result.

И это тот способ, которым можно обходить в том числе ее банальности.

And this is the way to bypass, among other things, its banalities.

Потому что, ну, я, условно говоря, креативный директор.

Because, well, I am, so to speak, a creative director.

Я знаю, как придумывать название.

I know how to come up with a name.

Если просто спросить «TouchGPT, придумай название для нового бренда минеральной воды»,

If you simply ask, "TouchGPT, come up with a name for a new brand of mineral water,"

он будет, ну, супер банальные вещи, типа там «PureDrop».

He will be saying some super banal things, like "PureDrop."

Что он делает? Он обычно просто склеивает два слова.

What is he doing? He usually just glues two words together.

Что делаю я, вооружившись промпт-инжинирингом?

What am I doing, armed with prompt engineering?

Я ему как бы задаю, там, контекст.

I kind of give him the context.

Я ему объясняю его роль.

I explain his role to him.

Или я пишу ему прям алгоритм, где в шагах описываю, что ему нужно делать.

Either I write him a direct algorithm, where I describe in steps what he needs to do.

И он делает ровно то, что я от него прошел.

And he does exactly what I asked of him.

И результат получается на один-два уровня глубже, чем ClearDrop.

And the result is one to two levels deeper than ClearDrop.

Вот как это работает.

This is how it works.

Потому что я считаю, что я лучше знаю, как придумывать идеи.

Because I believe I know better how to come up with ideas.

И если вы владеете какой-то экспертизой, вы в состоянии тоже заставить модель работать на вас,

And if you possess some expertise, you can also make the model work for you.

то есть, грубо говоря, вы в состоянии трансформировать свою экспертизу в промпт.

That is, roughly speaking, you are able to transform your expertise into a prompt.

То есть, по сути, весь, я сейчас попробую это сформулировать, возможно, я буду неправа,

That is, essentially, everything, I will now try to formulate this, perhaps I will be wrong,

но кажется, что весь промпт-инжиниринг сводится к тому, что я просто как будто бы коллеге-стажеру пишу,

But it seems that all prompt engineering comes down to me just writing as if I were speaking to a colleague intern.

вот четко расписываю ТЗ, и все прекрасно, я получаю на выходе то, что я хочу получить. Все?

Here I clearly outline the technical task, and everything is perfect; I get what I want as a result. That's it?

Ну, и да, и нет. Ну, то есть, метафора со стажером верная.

Well, yes and no. I mean, the metaphor with the intern is accurate.

И чем подробнее, тем лучше. И есть свои принципы, как с этим стажером общаться.

The more detailed, the better. And there are certain principles for how to communicate with this intern.

Ну, то есть, как они есть в общении с реальным стажером, да, вы понимаете какие-то общие принципы,

Well, that is, just as they are in communication with a real intern, yes, you understand some general principles,

так они есть и в моделях, что нужно показать примеры, объяснять контекст, или там, задать роль, или описать алгоритм.

So they are present in the models that need to show examples, explain the context, or set a role, or describe an algorithm.

Это все так. И модель начинает лучше работать. Но все равно, ну, как в целом, стажер не идеально.

That's all true. And the model starts to work better. But still, overall, the intern is not perfect.

То есть, по сути, ну, нечего учиться промпт-инжинирингу.

That is, essentially, there is nothing to learn about prompt engineering.

И люди, которые я просто пока искала в интернете, я нашла огромное количество вакансий, где там пишут вообще колоссальные зарплаты.

And the people I was just looking for online, I found a huge number of job postings where they mention really enormous salaries.

То есть, по сути, это просто люди, которые научились грамотно формулировать свою задачу и разжевывать все, что нужно сделать.

That is, essentially, they are just people who have learned to articulate their task clearly and break down everything that needs to be done.

А теперь посмотри, сколько стоят курсы для людей, которые желают научиться грамотно сформулировать свою задачу и управлять людьми, а не нейросетями.

And now look at how much the courses cost for people who want to learn how to formulate their tasks correctly and manage people, not neural networks.

Ну, это другое.

Well, that's different.

Совсем, да.

Absolutely, yes.

Вы не понимаете.

You don't understand.

Да.

Yes.

Ну, на самом деле, звучит не очень просто, да, грамотно формулировать свою задачу и прочее, и прочее.

Well, actually, it doesn’t sound very easy, does it? To formulate your task correctly and so on, and so forth.

То есть, я говорю, это такая гуманитарная дисциплина, которая, ну, как бы предъявляет требования к вопрошающему, да, заставляя его думать более структурно.

That is to say, I mean, it's a humanitarian discipline that, well, somehow makes demands on the questioner, yes, forcing them to think more structurally.

Поэтому я больше упарываюсь не по вот этим хакам, да, которые, ну, как бы существуют, которые исследуются, да, типа той же цепочки мыслей,

Therefore, I no longer get caught up in these hacks that, well, kind of exist, that are being researched, like the same chain of thoughts.

а именно по фреймворку, который бы позволял человеку, который хочет задать свой вопрос, правильно разложить его на, как бы, на разные тарелочки, да,

namely, a framework that would allow a person who wants to ask their question to properly break it down, so to speak, into different plates, yes,

и с этим подносом тарелочек прийти к модели, да, чтобы модели, чтобы ему в первую очередь было понятно, что он хочет спросить, а во вторую очередь к модели, вот.

And with this tray of plates, come to the model, yes, so that the model, first of all, understands what he wants to ask, and secondarily to the model, that's it.

В итоге идем учиться не промт-инжинирингу, а к психологу, чтобы мы поняли, что мы хотим и как формулировать.

In the end, we go to study not prompt engineering, but to a psychologist, so that we understand what we want and how to articulate it.

Ну, это ты глубоко копаешь.

Well, you're digging deep.

Ну, то есть, все, я все поняла, короче, не надо ничему учиться, просто разобрался в себе, что тебе нужно, задачу правильно расписал, и все отлично, и коллега тебя поймет, стажер, и чат GPT тебя поймет.

Well, I mean, I've got it all figured out, so basically you don't need to learn anything, just understand yourself, know what you need, outline the task correctly, and everything will be great, and your colleague will understand you, the intern, and GPT chat will understand you too.

Ну, тут ты забыл один нюанс, что все-таки нейросети друг от друга отличаются, и то, что срабатывает в одном месте, не обязательно сработает в другом, потому что могут быть сильно разные, скажем, настройки у нейросетей.

Well, here you forgot one nuance: all neural networks do differ from one another, and what works in one place may not necessarily work in another, because the settings of the neural networks can be quite different, for example.

Да.

Yes.

То есть, по сути...

That is, in essence...

Тебе надо понимать еще специфику нейросети.

You need to understand the specifics of neural networks.

Просто как бы, ну, грубо говоря, прочитать ее инструкцию, что там работает, а что там не работает, что она умеет хорошо, что она не умеет хорошо, потому что, условно, ты же не пойдешь у плотника заказывать что-то там по металлу.

Just, roughly speaking, read its instructions to see what works and what doesn't, what it does well and what it doesn't do well, because, hypothetically, you wouldn't go to a carpenter to order something made of metal.

Ты очень хорошо объяснишь плотнику, что тебе надо отлить металл, но он скажет «сорян».

You will explain to the carpenter very well what you need to cast metal, but he will say "sorry."

Не вышло.

It didn't work out.

То есть, по сути, тот же...

That is to say, essentially the same...

Сейчас, секундочку.

Just a moment.

То есть, по сути, тот же самый запрос, который я в чат GPT, вот с MeetJourney такое уже не сработает, так?

So, basically, the same request that I made in chat GPT won't work with MeetJourney, right?

Не, ну, ты взяла совсем разные нейросетки, потому что в одном случае это текст.

No, well, you took completely different neural networks, because in one case it's text.

В другом — картинка.

In another one — a picture.

Но даже если мы возьмем, допустим, чат GPT и Яндекс GPT, я думаю, там будут просто несколько разной настройки и несколько разной reward-модели, и как бы для нее важнее будут немножко разные вещи.

But even if we take, for example, ChatGPT and Yandex GPT, I think there will just be a few different settings and a few different reward models, and for them, slightly different things will be more important.

И при одинаковых промптах, ну, могут получиться разные результаты.

And with the same prompts, well, different results can be produced.

Да, но на мой взгляд, это скорее похоже на диалекты, если мы говорим про языковые модели.

Yes, but in my opinion, this is more like dialects when we talk about language models.

Опять-таки, я сравниваю сейчас тот же GPT и Cloud.

Again, I am comparing the same GPT and Cloud now.

Модель, которая фактически единственная.

The model that is actually the only one.

Она может пока конкурировать с чат GPT по своей когнитивности, так скажем.

She can still compete with ChatGPT in terms of her cognitive abilities, so to speak.

И я пробовал промпты, которые уже использовал в чат GPT там.

And I tried the prompts that I had already used in chat GPT there.

Они выдают немножко другие, но схожие результаты.

They produce slightly different, but similar results.

Поэтому, по моим ощущениям, это скорее похоже на диалект.

Therefore, in my feelings, it seems more like a dialect.

Есть нюансы, но общие принципы все равно остаются прежними.

There are nuances, but the general principles remain the same.

Потому что мы говорим о модели типа трансформер.

Because we are talking about a transformer-type model.

Ей нужно давать контекст, ей можно давать примеры, ей можно давать алгоритм и прочие-прочие штуки.

She needs to be given context, she can be given examples, she can be given an algorithm, and other things like that.

Они справедливы, могут меня потом эксперты поправить, но мне кажется, они справедливы для любой языковой модели.

They are fair, experts might correct me later, but it seems to me that they are fair for any language model.

Модели будут становиться, какие-то модели, вернее, будут становиться более генерализованными.

Some models, or rather certain models, will become more generalized.

Более общими.

More general.

Наверняка какие-то, как Рагим говорил, будут становиться более специфическими.

Surely some, as Ragim said, will become more specific.

К слову сказать, может быть, мне показалось, но я слышал, что чат GPT сейчас переходит от модели типа, когда это одна сеть, которая знает все, к кластеру моделей с более узкой специализацией.

By the way, it may have seemed to me, but I heard that ChatGPT is now transitioning from a single network model that knows everything to a cluster of models with narrower specialization.

И запрос пользователя адресуется в одну из них.

And the user's request is addressed to one of them.

Поэтому довольно сильно изменился эффект.

Therefore, the effect has changed quite significantly.

Это сейчас выдача, и я это заметил тоже на своих подпроектах.

This is currently an output, and I noticed it in my subprojects as well.

Слушай, ну там с ними непонятно, потому что они очень много, ну они же ничего толком не раскрывают, и мы, в общем, по многому судим по догадках.

Listen, well, it's unclear with them because there are so many of them, well, they really don't reveal anything properly, and we, in general, judge a lot based on guesses.

В том числе недавно проскочил вот этот миф, что типа чат GPT деградирует, потому что раньше он отвечал на математические задачи так, а теперь так.

Including recently, there has been this myth that GPT chat is degrading because it used to solve mathematical problems like this, and now it does so like that.

Но когда ты лезешь внимательно разбираться в исследованиях, каким образом они его опрашивали, на чем они проводили эти исследования, к ним тоже есть вопросы.

But when you carefully delve into the research, looking at how they conducted interviews and on what basis they carried out these studies, there are also questions about them.

И, в общем, деградирует он в этом.

And, in general, he is degrading in this.

В итоге или нет до конца непонятно, а главное, насколько это было сделано специально, непонятно.

In the end, it's still unclear whether it was done or not, and most importantly, it's unclear how intentional it was.

Потому что надо понимать, что все-таки это денег стоит каждый запрос.

Because you have to understand that each request does cost money.

Может, они посчитали, что у нас слишком большая модель, которая жрет слишком много ресурсов.

Maybe they thought that we have too large a model that consumes too many resources.

А на что? Вот смотри, в чем прикол.

And what for? Look, here's the thing.

Что если мы берем Яндекс, мы понимаем, ну как бы, у нас есть свой поисковик, например.

What if we take Yandex, we understand, well, we have our own search engine, for example.

Мы понимаем, что людей интересует, мы понимаем, чем пользуются.

We understand what people are interested in, we understand what they use.

Там у нас есть статистика по этим, по нейросетям, почему-то еще.

There we have statistics on this, on neural networks, for some reason.

Мы понимаем, что то, чего обычно хотят люди, да не нужен им чат GPT-4.

We understand that what people usually want doesn't require them to have chat GPT-4.

Вот десятая часть даже этих возможностей им не нужна, потому что они, я не знаю, придумали поздравление бабушке.

Here is the tenth part of even these possibilities that they don't need, because they, I don't know, came up with a greeting for grandma.

Ну, типа, окей, сойди на сайт поздравления бабушек.

Well, like, okay, go to the website for congratulating grandmothers.

Ну, не нужен тебе для этого ни GPT-4, ни Яндекс GPT, ничего из этого.

Well, you don't need GPT-4, Yandex GPT, or anything like that for this.

А может ли случиться такая ситуация, что вот нейросетки настолько адаптивны,

Could it be that there is a situation where neural networks are so adaptable,

адаптируются к человеческому языку, что пром-то, в принципе, не понадобится?

They adapt to human language, so what’s the point, in principle, of needing it?

Что вот я вот с батуна пишу, господи, мне нужно вот такой отчет, сделай, сделай, пожалуйста.

What I'm doing here from the bat, Lord, I need a report like this, please make it, make it.

Смотри, вот я тебе говорю, дай.

Look, I’m telling you, give it to me.

Ну, окей, хорошо.

Well, okay, fine.

Дай стакан. Ты адаптирована абсолютно к русскому языку, ты абсолютно хорошо меня понимаешь.

Give me a glass. You are completely adapted to the Russian language, you absolutely understand me well.

Но пока я тебе четко не сказал, что тебе сделать, ты не можешь ничего сделать.

But until I clearly tell you what to do, you can't do anything.

Но это то, о чем я уже говорил, что, вернее, ты об этом говорила.

But this is what I already mentioned, or rather, you mentioned it.

Если представить на месте нейросети Джуна, у которого супер-понимание русского языка,

If we imagine a neural network like Juna, which has a super understanding of the Russian language,

ну, то есть вот он русский нейтив, никаких языковых барьеров нет,

well, I mean, here he is a native Russian speaker, there are no language barriers.

и он еще в хороших отношениях, ну, все равно ему нужно объяснить, что ты хочешь.

And he is still on good terms, but you still need to explain to him what you want.

Ну, вот все равно. Ну, то есть он не научится читать мысли, насколько бы он хорошим Джуном не был.

Well, it doesn't matter anyway. I mean, he's not going to learn to read minds, no matter how good of a June he is.

Нет, извините, нейросети уже научились.

No, sorry, neural networks have already learned.

Ну-ка, подожди, подожди, что это такое?

Well, wait, wait, what is this?

Нейросети? Правда, правда, правда. Давай сейчас не будем усложнять.

Neural networks? True, true, true. Let's not complicate things right now.

Стоп, стоп, остановлю. Расскажите прямо сейчас, как они научились?

Stop, stop, I will stop. Tell me right now, how did they learn?

Да, в общем-то, в глобальном смысле ничего сложного.

Yes, basically, in a global sense, nothing complicated.

Ты кладешь человека в МРТ, показываешь ему картиночки, возбуждаются определенные зоны мозга,

You put a person in an MRI, show them pictures, certain areas of the brain become excited,

нейросети это интерпретируют. Таким образом, читать мысли научились задолго до нейросетей, скажем так.

Neural networks interpret this. So, let's put it this way: they learned to read thoughts long before neural networks.

Просто надо было вручную понимать, какая зона возбуждается, и что это может значить.

You just had to manually understand which area was getting excited and what it could mean.

Сейчас понятно, что с нейросетями это намного проще, и она конкретно, например,

Now it is clear that with neural networks it is much easier, and it specifically, for example,

показывает жирафа, нейросеть смотрит зону, которая там возбудилась, каким образом,

It shows a giraffe, the neural network looks at the area that has become excited, in what way,

и она говорит, так, чувак, смотри, жираф. В некотором смысле, конечно, очтение мыслей,

And she says, "So, dude, look, a giraffe." In a way, of course, mind reading.

но это очень абстрактное очтение мыслей.

but this is a very abstract reading of thoughts.

Ну да, да, да. То есть вектор туда есть, но давайте пока останемся вот в этой реальности,

Well, yes, yes, yes. So, there is a vector in that direction, but let's stay in this reality for now.

где это еще не является бета-фичей в ChatGPT. То есть все равно нужно объяснить.

where this is not yet a beta feature in ChatGPT. That is, it still needs to be explained.

У меня есть странный пример, я не знаю, можно это отнести к промот-инжинирингу или нет,

I have a strange example; I don't know if it can be related to prompt engineering or not.

как чувак устроился на работу с помощью Алисы.

how a guy got a job with the help of Alice.

Ого.

Wow.

Я собеседовал человека, ну то есть как бы при, ну как бы стадии, которые надо пройти для того,

I interviewed a person, well, that is, like at the, well, like the stage that needs to be passed in order to,

чтобы стать AI-тренером, ты сначала делаешь тесты, там 5 тестов, русский язык, этика, бла-бла-бла-бла.

To become an AI trainer, you first take tests; there are 5 tests: Russian language, ethics, blah-blah-blah-blah.

Потом ты пишешь тексты, потом собеседуешься, если там дошел до всего этого.

Then you write texts, then you have an interview, if you've made it that far.

И среди вот этих тестов есть тест по этике, где есть довольно нетривиальные вопросы,

And among these tests, there is a test on ethics that has quite non-trivial questions,

что тебе кажется этичным, что тебе кажется неэтичным.

what seems ethical to you, what seems unethical to you.

И вот я собеседовал человека, который студент, он мне рассказывает,

And so I interviewed a person who is a student, he tells me,

а я смотрю, там что-то у него неидеальный вариант, скажем, по этике.

I'm noticing that there's something about his option that's not ideal, let's say, in terms of ethics.

Я говорю, расскажи мне, что там сложности вызвало, как.

I say, tell me, what difficulties arose there, how.

Он сидит и говорит, да на самом деле я типа схитрил.

He's sitting and saying, yeah, actually I kind of cheated.

Я говорю, как? Он говорит, я стал задавать эти вопросы Алисе.

I said, how? He said, I started asking these questions to Alice.

И я говорю, ну ты умен, конечно, мы этой же этике научили Алису, ты ей задаешь вопросы,

And I say, well, you are smart, of course, we taught Alice this same ethics, you are asking her questions,

я сделал таким образом, в общем, этот же тест.

I did it this way, in general, the same test.

Но, правда, у нее все остальное было хорошо.

But, really, everything else was good for her.

Но из-за изобретательности работает сейчас у меня в команде.

But due to ingenuity, she is currently working on my team.

Отлично. Кстати, насчет этики. Что вы думаете о том, что нейросетки очень часто

Great. By the way, regarding ethics. What do you think about the fact that neural networks very often...

как будто бы уже становятся нашими друзьями, и мы уже...

as if they are already becoming our friends, and we already...

Ну, ты правильно говоришь, что постоянно нейросетки не думают,

Well, you're right that neural networks don't think all the time.

нейросетки не пытаются тебе что-то доказать или еще что-то, но нам, как людям,

neural networks do not try to prove something to you or anything like that, but to us, as humans,

которые просто переписываются в чате с кем-то, вот уже прям кажется,

who are just chatting with someone in a chat, it already seems like,

что это кто-то, это твой друг, который тебе вот помогает лучше жить.

It is someone, it's your friend who helps you live better.

Ну, давай честно, мы с друзьями не особо-то общаемся, будем честны, мы ждем,

Well, let's be honest, my friends and I don't really communicate much, to be honest, we're waiting for...

когда они договорят что-то, и мы сами вкладываем, ну, чтобы свое что-то уже сказать,

when they finish saying something, and we ourselves want to contribute, well, so we can say something of our own,

и мы сами вкладываем туда смысл. В каком-то таком метафизическом плане

and we ourselves imbue it with meaning. In some kind of metaphysical sense

я не вижу очень большой разницы между тем, что ты переждал слова от друга

I don't see a very big difference between you waiting for words from a friend.

и наверил ему, что хотел, и почитал то, что ты хотел почитать от нейросетки.

And he assured him that he wanted it, and he read what you wanted to read from the neural network.

Если уж мы как бы вот именно про такое общение говорим, но общаясь с нейросеткой,

If we are talking specifically about such communication, when communicating with a neural network,

это не хуже, чем масса других увлечений.

It is no worse than a lot of other hobbies.

Общаться с нейросеткой я знаю у фаундера стартапа, который создает

I know how to communicate with a neural network from the founder of a startup that is creating

на основе нейросетки романтических ботов. То есть там не только можно пообщаться,

based on a neural network of romantic bots. That means you can not only chat there,

можно еще и пофлиртовать, еще и нюнцы получить. Так что да,

You can also flirt a bit and get some nuances. So yes,

специфические нейросетки будут развиваться.

Specific neural networks will develop.

Перебил, ты не читал эту статью про как обучали нейросеть для вибратора, извините?

Did you interrupt? Have you read that article about how they trained a neural network for a vibrator, sorry?

Нет, не читал.

No, I haven't read it.

Это прям, ты что, серьезно? Сидели ребята, они отсматривали порно для того, чтобы сделать нормальную разметку,

Are you serious? The guys were sitting there watching porn to create a proper layout.

типа, и это такой умный вибратор, который по твоему промпту, кстати, промпт-инжиниринг,

like, it's such a smart vibrator that responds to your prompt, by the way, prompt engineering,

внимание, ты ему скажешь, давай-ка представим, что я на пляже, и все нежно и эротично,

Attention, you will tell him, let's imagine that I am at the beach, and everything is gentle and erotic.

и он будет там как-то нежно и эротично вибрировать. А можешь сказать ему, что ну прям давай зажжем,

and he will be there somehow gently and erotically vibrating. And can you tell him that let's really light it up.

вот как бы работу людей видишь.

This is how you see people's work.

Как вы относитесь к идее того, что нейросетки скоро заполонят, станут по-настоящему искусственным интеллектом,

What do you think about the idea that neural networks will soon dominate and become true artificial intelligence?

заполонят нас, переделают вообще весь мир, отберут у нас работу, просто начнут все решать.

They will fill us up, completely overhaul the world, take our jobs away, and simply start making all the decisions.

Вот насколько они по-вашему вообще способны на это?

How capable do you think they are of doing this at all?

Давай начнем с того, что это не они отнимут нашу работу, это мы отнимем работу,

Let's start with the fact that it's not them who will take our jobs, it's us who will take the jobs.

это мы переделаем мир, потому что они делают ровно то, что им скажут.

We will remake the world because they do exactly what they are told.

И то, знаешь, справляются с трудом, будем честны.

And to be honest, they are managing with difficulty.

И еще, наверное, стоит заметить по поводу захвата мира, честно говоря, проще любым другим способом захватить мир

And also, it’s probably worth mentioning regarding world domination, frankly, it’s easier to take over the world by any other means.

на нынешний момент, чем созданием такой нейросети, которая бы с этим хоть каким-то образом справилась.

at the moment, rather than creating such a neural network that could somehow handle this.

Но есть же вот эти нейросети, которые во всех фильмах, вы что, друзья, когда нейросеть призвана защищать человечество,

But there are these neural networks that appear in all the movies, what, friends, when a neural network is called upon to protect humanity,

и она понимает в какой-то момент, она подключается к интернету и понимает, что все проблемы человечества

And she understands at some point, she connects to the internet and realizes that all of humanity's problems...

вот человечество и все, и начинает его истреблять.

Here humanity is, and it starts to exterminate itself.

Мне кажется, и человечество это понимает и, в общем, вместо нейросети довольно успешно занимается истреблением человечества.

It seems to me that humanity understands this, and generally, instead of neural networks, it is quite successfully engaged in the annihilation of humanity.

Да, вопрос в том, какие у этой нейросети будут ресурсы, к чему она будет подключена.

Yes, the question is what resources this neural network will have and what it will be connected to.

И на самом деле, даже если не брать самый апокалиптичный сценарий в расчет,

And in fact, even if we do not consider the most apocalyptic scenario,

там тоже существует целая когорта скептиков, и у них есть довольно интересное рассуждение на этот счет.

There is also a whole cohort of skeptics there, and they have quite an interesting argument regarding this.

Более того, там тот же Сэм Альтман, это CEO OpenAI, в интервью Лексу Фридману,

Moreover, there is Sam Altman himself, the CEO of OpenAI, in an interview with Lex Fridman,

они как раз, ну, естественно, об этом говорят, как же это можно обойти.

They are just, well, naturally, talking about it, how can you avoid it.

И как раз Сэм Альтман рассказывает, что он знакомился с мыслями AI-скептиков.

And it just so happens that Sam Altman is discussing how he has been acquainted with the thoughts of AI skeptics.

И я перешел как раз-таки почитать исходные работы, и они мне показались довольно любопытными.

And I actually went to read the original works, and I found them quite interesting.

И там как раз-таки один из авторов, я сейчас не вспомню,

And there, in fact, one of the authors, I can't recall right now,

его имя, рассуждает следующим образом, что речь идет даже не о том,

his name reasons as follows: it's not even about that,

что оживет Василий Скрока и уничтожит нас всех,

that Vasily Skroka will come to life and destroy us all,

а в том, что появляется конкурирующая, вот как бы сейчас не попасть в ловушку, сила,

And in the fact that a competing force is emerging, we must be careful not to fall into a trap.

конкурирующий субъект, конкурирующий в смысле с людьми за ресурсы.

competing entity, competing in terms of competing with people for resources.

То есть, если будет сконструирован такой, который, не знаю, будет решать какую-то прикладную задачу,

That is, if one is constructed that, I don't know, will solve some applied problem,

и для решения этой прикладной задачи, например, он будет считать, что ему нужно масштабировать себя,

and to solve this applied task, for example, he will think that he needs to scale himself,

тогда он будет наращивать мощности, он будет, не знаю, создавать проекты,

then he will be increasing capacities, he will, I don’t know, create projects,

открывать компании через подставных людей.

opening companies through front people.

Зарабатывать деньги, покупать себе серверные мощности и прочее-прочее.

Earn money, buy server capacity for yourself and so on and so forth.

И таким образом конкурировать за те ресурсы, которыми пользуются люди.

And thus compete for the resources that people use.

И с учетом того, что он обладает намного большей датой, исторической осведомленностью,

And given that he possesses a much greater historical awareness,

скоростью принятия решений, в какой-то момент, даже не будучи сверхинтеллектом,

the speed of decision-making, at some point, even without being a superintelligence,

оставаясь на уровне человеческого интеллекта, но имея все остальные возможности,

remaining at the level of human intelligence, but having all other capabilities,

он может начать у людей выигрывать.

He can start winning against people.

Это я очень приблизительно цитирую того чувака, на которого ссылается сама.

This is a very rough quote of that guy that the work refers to.

Поэтому это не то, что бабкины страхи, на самом деле.

So it's not really grandma's fears.

Очень много людей, которые давно занимаются искусственным интеллектом, серьезно напрягаются,

There are a lot of people who have been working in artificial intelligence for a long time that are seriously stressed.

выступают с колонками в газетах и прочее-прочее.

they appear with columns in newspapers and so on and so forth.

И всерьез об этом задумываются.

And they are seriously thinking about it.

Более того, в том же OpenAI они сделали отдел по суперэлайменту.

Moreover, at OpenAI, they created a department for superalignment.

То есть отдел, который занимается этикой.

That is, the department that deals with ethics.

Мне кажется, что отдел этики они сделали не потому, что они боятся революции машин,

I think they created the ethics department not because they are afraid of a machine revolution,

а потому что все пытаются понять, как это регулировать и кто за что отвечает.

Because everyone is trying to understand how to regulate it and who is responsible for what.

Если завтра нечаянно какая-нибудь GPT-шечка скажет, нечаянно заголюнив, скажет ребенку,

If tomorrow some little GPT accidentally says, accidentally boasting, says to a child,

что они взяли себе в ухо из папиного пистолета, то кто будет за это отвечать?

Who will be responsible for what they took into their ear from dad's gun?

И в Яндексе тоже отдел, естественно, этики, который пытается понять,

And in Yandex, of course, there is a department of ethics that tries to understand,

как вообще с текущим законодательством взаимодействовать, например.

how to interact with the current legislation, for example.

Я думаю, у них примерно та же проблема.

I think they have about the same problem.

Последняя, я думаю, что их волнует, это восстание машин.

The last thing I think they care about is a machine uprising.

Да, но это проблема просто разных горизонтов.

Yes, but it's just a problem of different horizons.

То есть сегодня тебя интересует и волнует, чтобы ребенок не получил такой совет.

That is to say, today you are concerned and worried that the child does not receive such advice.

Ну, типа, а через 10 лет?

Well, like, what about in 10 years?

Не знаю, почему есть какая-то очень агрессивная компания на рынке,

I don't know why there is some very aggressive company in the market,

которая захватывает активы, и таким образом она принимает такие эффективные решения.

which seizes assets, and thus it makes such effective decisions.

Я, честно говоря, из нынешней ситуации я вообще не представляю,

Honestly, I don't really understand the current situation at all,

как на чем обучить настолько крутую нейросеть, которая вообще способна

how to train such a cool neural network that is capable at all

сколько-то времени последовательно чем-то заниматься, какие безумные должны быть ресурсы,

How much time should be spent consecutively on something, what insane resources must be?

для того, чтобы она на протяжении годов реализовывала какой-то план,

in order for her to implement some plan over the years,

причем, ладно, даже, ну, допустим, фантастическую ситуацию,

even, well, let's say, a fantastic situation,

что она каким-то образом влияет на реальность окружающего нас,

that it somehow influences the reality around us,

а не просто внутри компьютера, но я не представляю, типа, что это должно быть,

but not just inside the computer, but I can't imagine, like, what it should be,

на чем, как выучить и сколько нужно ресурсов на такое чудовище.

What to study, how to learn, and how many resources are needed for such a monster?

Мне кажется, проще для этого купить какую-нибудь страну

I think it would be easier to buy some country for this.

и захватить ей все остальные, наверное, ну, типа так.

and capture all the others for her, probably, well, like that.

Ну, правда здесь, что мы не знаем, куда все это движется,

Well, the truth is that we don't know where all this is heading.

потому что мы приближаемся к какой-то экспоненте, да,

because we are approaching some kind of exponent, right,

если смотреть на то, где были нейросети 70 лет назад,

if you look at where neural networks were 70 years ago,

когда они были как бы концептуально описаны, и то, где мы находимся сейчас,

when they were conceptually described, and where we are now,

ну, это довольно серьезная разница. Если продолжить этот восходящий тренд

Well, that's quite a serious difference. If this upward trend continues.

даже на 10-15 лет вперед, ну, может случиться разное.

Even 10-15 years ahead, well, different things can happen.

Не знаю, может, я, конечно, скептик в этом плане, потому что, типа,

I don't know, maybe I'm a skeptic in this regard, because, like,

я каждый день вижу, как мы пытаемся хоть на миллиметр сделать ее умнее,

I see every day how we try to make her smarter even by a millimeter.

и каких трудов это стоит, и сколько людей, и сколько денег нужно для того,

and what effort it takes, and how many people, and how much money is needed for that,

чтобы она становилась хоть чуточку умнее. Мне, конечно, очень сложно представить,

so that she becomes at least a little bit smarter. It’s really hard for me to imagine, of course,

ну, что вдруг она там что-то захватит. Ты думаешь, давай, захвати,

Well, what if she suddenly grabs something there. Do you think, go ahead, grab it,

отними у меня уже, отними у меня мою работу по обучению тебя, все, давай,

Take it away from me already, take away my job of training you, that's it, come on.

освободи меня, я готов быть твоим рабом.

Set me free, I am ready to be your slave.

Да, да, да. Слушай, ну, там вот эти все панические, что там,

Yes, yes, yes. Listen, well, all those panic things over there, what...

отберет работу у программистов, там, или прочее, прочее.

will take jobs away from programmers there, or other, other things.

Пока она скорее насоздавала новые работы, столько, что ее не переработать.

For now, she has created so many new works that they can't be reworked.

История про автоматизацию, как и история про любую техническую революцию,

The story of automation, like the story of any technical revolution,

она всегда, ну, как бы одна и та же. То есть были художники, они писали портреты,

She is always, well, kind of the same. I mean, there were artists who painted portraits,

потому что люди хотели запечатлеть себя, своих близких в веках, да.

because people wanted to immortalize themselves and their loved ones through the ages, yes.

Появилась фотография, и прикладная функция живописи ушла, да. То есть все, как бы,

A photograph appeared, and the practical function of painting disappeared, yes. That is, everything, kind of,

ну, часть мы закрыли, 95% задач закрывается новой технологией.

Well, we've closed part of it, 95% of the tasks are being resolved with the new technology.

Осталось 5% художников, которые делают это как искусство, да, искусство остается.

Only 5% of artists remain who do this as art, yes, art remains.

То есть, в общем, любая индустрия, куда приходит эмерджентная технология,

That is, in general, any industry where emerging technology arrives,

она, ну, оттуда прикладная часть выносится, да, и забирается новой технологией.

Well, the applied part is taken out from there, right, and is replaced by new technology.

А то, что остается, становится, ну, типа искусством, да, как вот то, о чем говорит Рагим.

And what remains becomes, well, kind of art, yes, like what Raghim talks about.

Но, как бы, литература какое-то время, это искусство, остается неподвластной

But, like, literature for some time, this art, remains untouchable.

языковым моделям. Но...

language models. But...

Но тоже, знаешь, справедливости ради, 80% того, что сейчас лежит на полках в магазинах,

But also, you know, to be fair, 80% of what is currently on the shelves in stores,

пусть лучше пишет чат GPT, чем живые люди вот эту ерунду пишут, как бы.

It's better if GPT writes this nonsense than live people do, you know.

Ну, вот типа того, да. Ну, а что касается вообще ремесла, да, по написательству,

Well, something like that, yes. As for the craft of writing, yes,

ну, я даю пару лет, чтобы этот вопрос был окончательно разрешен.

Well, I give it a couple of years for this issue to be finally resolved.

То есть просто пока по инерции индустрия до этого доедет.

That is, the industry will just get there out of inertia for now.

СММ, сценарии YouTube роликов, подкасты, да-да-да, сценарии подкастов,

SMM, YouTube video scripts, podcasts, yes-yes-yes, podcast scripts,

и мы будем говорить синтезированные вот по написанным моделям, текстам.

And we will be talking about synthesized texts based on the written models.

В общем...

In general...

Просто какой-то генератор голоса будет включаться, и все нормально.

Just some voice generator will be turned on, and everything will be fine.

Ну, конечно. Мы уже сейчас могли это сделать.

Well, of course. We could have done it already.

Да, я все время вспоминаю, типа, когда индусы запустили пока в режиме теста

Yes, I keep remembering, like, when the Indians launched it while in test mode.

и ведущего новостей, по-моему, они, правда, его на телек не вывели,

and the news anchor, in my opinion, they really didn't put him on TV.

они у себя оставили где-то вот там в трансляции в ютубчике, 24 часа в сутки

They left it somewhere in the stream on YouTube, 24 hours a day.

просто такая сгенерированная женщина читает новости безостановочно, типа, идеально.

just some generated woman reads the news non-stop, like, perfectly.

Я все время вспоминаю, где же это было, в 450-дневном Фаренгейте, по-моему,

I keep remembering where it was, in 450-Degree Fahrenheit, I think.

Гай приходил домой, и его жена постоянно смотрела 24-часовое шоу «Родственники»,

Gai came home, and his wife was constantly watching the 24-hour show "Relatives."

она называла, что ли. Ничего было не понятно, там постоянно, судя по всему,

She was calling, I guess. Nothing was clear, apparently there all the time.

тоже сгенерированные люди срались друг с другом о чем-то.

Generated people also argued with each other about something.

Я думаю, вот мы уже рядом скоро-скоро. У нас будет Малахов 24.

I think we are already close, very soon. We will have Malakhov 24.

И у нас будет просто сгенерированный Малахов без остановки 24 часа в сутки.

And we will have a simply generated Malakhov non-stop 24 hours a day.

Просто вау.

Just wow.

Ругаться со своими соседями. Прекрасно.

Arguing with your neighbors. Wonderful.

Когнитивность нейросистей будет расти.

The cognitive ability of neural systems will grow.

То есть они будут справляться с большим количеством задач.

That is, they will be handling a large number of tasks.

И в какой-то момент спектр этих задач будет очень широк,

And at some point, the spectrum of these tasks will be very wide,

и действительно какие-то люди могут почувствовать себя, так скажем, дискомфортно

And indeed some people may feel, so to speak, uncomfortable.

из-за того, что они выполняют эти задачи хуже.

because they perform these tasks worse.

Но, мне кажется, этого не нужно пугаться. Если мы вспомним про Deep Blue,

But I don't think we need to be scared of it. If we recall Deep Blue,

это шахматный компьютер, который 15 лет назад обыграл Каспарова,

this is a chess computer that beat Karpov 15 years ago,

вот и все, все, короче, компьютеры захватят нас, включайте Терминатор 2,

That's it, that's all, in short, computers will take over us, turn on Terminator 2.

то это событие не убило шахматы, что показательно.

So this event did not kill chess, which is telling.

Более того, шахматы сейчас на каком-то пике, в том числе благодаря ТикТоку.

Moreover, chess is currently at some kind of peak, partly thanks to TikTok.

Многие тиктокеры, вот там целый жанр шахматы в ТикТоке.

Many TikTokers, there is an entire genre of chess on TikTok.

Это очень популярный вид досуга, много молодых людей интересуется.

It is a very popular form of leisure, and many young people are interested in it.

Действительно интересная дисциплина.

Indeed an interesting discipline.

Но что произошло после того, как Deep Blue обыграл Каспарова?

But what happened after Deep Blue defeated Kasparov?

Все больше и больше людей, все больше и больше шахматистов стали учиться, используя компьютер.

More and more people, more and more chess players have started to learn using a computer.

То есть они стали практиковаться и тренироваться об компьютер и вместе с компьютером.

That is, they began to practice and train with the computer and along with the computer.

И это привело к тому, что нынешние гроссмейстеры,

And this has led to the fact that the current grandmasters,

даже несмотря на то, что непосредственно в самой партии они не используют никакие тулы,

even though they do not use any tools directly in the party itself,

используют только свой мозг, но будучи натренированными с помощью компьютеров,

they only use their brains, but being trained with the help of computers,

они превосходят гроссмейстеров прошлого.

They surpass the grandmasters of the past.

Потому что теперь они бегают быстрее, теперь они думают лучше.

Because now they run faster, now they think better.

И это прикольно.

And that's cool.

Это внушает некую надежду в определенном смысле.

This inspires a certain hope in a way.

Скорее всего нейросети обгонят человека.

Most likely, neural networks will surpass humans.

Как машина обгоняет человека и самолет обгоняет человека.

How a car overtakes a person and an airplane overtakes a person.

Не нужно этого бояться.

There's no need to be afraid of this.

Вопрос в том, как оставаться в союзе с этим инструментом.

The question is how to remain in alliance with this tool.

То есть насколько бы и не были развитыми,

That is, no matter how developed they may be,

если мы понимаем, если мы выступаем наездниками на этом мучающемся локомотиве,

if we understand, if we act as riders on this tormented locomotive,

у нас все еще остается шанс конкурировать с ИИ.

We still have a chance to compete with AI.

Если мы не едем на этом поезде, то через какое-то время мы рискуем очень существенно отстать.

If we don't take this train, we risk falling very significantly behind after a while.

Извините, я как машинист поезда скажу, не скоро при вашей жизни, скорее всего, страшного не случится.

Sorry, as a train driver, I can say that it won't happen for a long time in your lifetime, most likely nothing terrible will happen.

Еще один вопрос.

One more question.

Можете вы для наших потрясающих слушателей поделиться несколькими лайфхаками,

Can you share some life hacks for our amazing listeners?

если я пользуюсь какими-то нейросетками для работы, мне нужны конкретно какие-то важные запросы,

If I use any neural networks for work, I need specific important requests.

как я могу свои запросы улучшить так, чтобы получать более правильный и хороший результат.

How can I improve my queries to get more accurate and better results?

Но есть же вот этот лайфхак, что нужно чату GPT, например, дать роль.

But there is this life hack that you need to assign a role to GPT chat, for example.

Напиши мне как маркетолог или как кандидат физико-математических наук.

Write to me as a marketer or as a candidate of physical and mathematical sciences.

Вот что-то такое.

Here is something like that.

Какие-то очень простые базовые вещи, которые вот одну эту фразочку написала, и все, жизнь заиграла.

Some very simple basic things, which just writing this one little phrase made everything come to life.

Есть. Одну из них ты назвала.

Yes. You named one of them.

Просто, опять-таки, важность вот этого конкретного хака с ролью, она плавает.

It's just that, once again, the importance of this specific hack with the role is fluid.

То есть в третьем GPT она очень явно проявлялась, в четвертом не так.

That is, it was very clearly manifested in the third GPT, but not so much in the fourth.

Сейчас как будто снова ее вернули, то есть там есть балансировка.

It feels like she has been returned again, meaning there is a balance.

Ну, опять-таки, сейчас это кажется преждевременным вопросом.

Well, again, it seems like a premature question right now.

Но если прям хочется каких-то хаков очень простых,

But if you really want some very simple hacks,

то можно, да, заставить нейросеть думать вслух, по-английски написать think step by step.

You can, yes, make the neural network think aloud, write in English "think step by step."

Тогда модель начнет думать вслух просто потому, что никак думать иначе она не может.

Then the model will start thinking out loud simply because it cannot think otherwise.

Она не думает про себя.

She doesn't think about herself.

И для того, чтобы получать более качественные результаты, иногда нужно заставить ее подумать на письме,

And in order to achieve more quality results, sometimes you need to make her think in writing,

чтобы она сама свои мысли, мысли в кавычках, прочла, и тогда результат улучшится.

So that she reads her own thoughts, thoughts in quotes, and then the result will improve.

Да, это абсолютно точно.

Yes, that's absolutely right.

Или, например, прием, о котором я тоже говорил, это сгенерированное знание.

Or, for example, the technique I also mentioned is generated knowledge.

То есть, ну да, модель имеет в своем датасете знание как бы обо всем.

That is, well yes, the model has knowledge of everything in its dataset.

Но иногда лучше попросить ее сначала вспомнить.

But sometimes it's better to ask her to remember first.

Ну, например, вы хотите написать пост о хомяках.

Well, for example, you want to write a post about hamsters.

Вот, вы можете просто написать запрос типа «дай мне текст о хомяках», и она его сделает.

Here, you can just write a request like "give me a text about hamsters," and it will do it.

Но если вы сначала пром сформулируете таким образом,

But if you first formulate the prompt in this way,

выведем мне короткую заметку, что ты знаешь о хомяках, а потом напиши пост,

Let's provide me with a short note about what you know about hamsters, and then write a post.

то результат будет лучше, потому что она как бы вот с полок своего датасета возьмет часть про хомяков,

then the result will be better, because it will take a part about hamsters from the shelves of its dataset.

положит это ближе к себе, и лучше более точно заметить.

He will put it closer to himself and will notice more accurately.

У меня есть некоторые сомнения, есть подозрения, что типа «напиши пять раз подряд ей, что ты знаешь про хомяков»,

I have some doubts, there are suspicions that it's something like "write to her five times in a row that you know about hamsters."

она пять раз подряд может написать совершенно разное.

She can write completely different things five times in a row.

Я не уверен, что она таким образом типа отражается.

I'm not sure that she reflects in that way.

Она не отражает свое знание о хомяках.

She does not reflect her knowledge about hamsters.

Она же тебе на самом деле не скажет, что она знает про хомяков, она скажет что-то,

She won't actually tell you that she knows about the hamsters, she'll say something else.

что, по ее мнению, должно отражать твои ожидания относительно ее знания о хомяках.

what, in her opinion, should reflect your expectations regarding her knowledge about hamsters.

Ну да, но чисто практически это выглядит так, и это одинаково неплохо работает как на каких-то креативных задачах,

Well, yes, but purely practically it looks like this, and it works equally well on some creative tasks.

и на задачах с детерминированным ответом.

and on tasks with a deterministic answer.

Ну и это является такой одной из общих практик, которую рекомендуют МЛ-сайентисты.

Well, this is one of the common practices recommended by ML scientists.

А у Яндекс.Джипити есть какие-нибудь лайфхаки? Или, может быть, как-то можно взломать?

Does Yandex.GPT have any hacks? Or maybe there's a way to hack it?

Да нет, оно плюс-минус так же подходит, но тоже по поводу «взломать» я сейчас скажу, а потом пиар меня взломает.

Well, yes and no, it fits more or less the same, but I will also say something about "hacking" now, and then PR will hack me.

На самом деле модели очень сильно меняются.

Models are changing very much, in fact.

Даже про те же галлюцинации.

Even about the same hallucinations.

То, как выдавала модель Джипити три галлюцинации и четыре еще пару месяцев назад,

The way the GPT model produced three hallucinations and four more a couple of months ago,

как она галлюцинировала, когда, например, ты спрашивал,

how she hallucinated when, for example, you asked,

«Расскажи про конфликт Бразилии и Японии в 1700-м таком-то году».

"Tell me about the conflict between Brazil and Japan in such-and-such year in the 1700s."

Она выкатывала тебе такой текст, как они конфликтовали.

She was rolling out such a text for you about how they were in conflict.

Если задать этот вопрос сейчас,

If we ask this question now,

и модели три с половиной, и модели четыре, она скажет, что такого конфликта не было,

And the models three and a half, and the models four, she will say that there was no such conflict.

и вы как бы бредите.

And you seem to be rambling.

То есть определенный прогресс в этом есть.

So there is certain progress in this.

Есть забавная штука.

There's a funny thing.

Одно из типов заданий у нас на работе –

One of the types of tasks we have at work is –

надо общаться с нейросетью и пытаться улучшить ее ответ именно через общение с ней.

You need to communicate with the neural network and try to improve its response through interaction with it.

В общем, диалоговое такое обучение.

In general, it's a dialogue-based learning.

И при этом вводное у тебя от какого-нибудь пользователя, допустим.

And at the same time, your introduction is from some user, for example.

И я, в общем, сажусь за компьютер,

And I, in general, sit down at the computer,

спрошу пообщаться с нейросетью и вижу, какая у меня вводная.

I will ask to chat with the neural network and see what input I have.

Пользователь попросил у нейросети, как же там было,

The user asked the neural network, how was it there,

какая птица может поднять теленка.

What bird can lift a calf?

И я такой, типа, вау.

And I’m like, wow.

Ну, типа, как можно улучшить ответ?

Well, like, how can the answer be improved?

Она на вопрос, зачем ты составил ему топ-5 птиц, и они все выдуманные.

She asked why you made him a top 5 list of birds, and they are all made up.

Я говорю, дай другой. Она опять что-то выдумывает.

I say, give another one. She's making up something again.

В общем, через полчаса того, как я пытался выдавить из нее хоть одну реальную птицу,

In general, half an hour after I tried to get at least one real bird out of her,

я ей пишу, ну, я уже просто злюсь, я ей пишу, не неси бред,

I'm writing to her, well, I'm just getting angry, I'm writing to her, don't bring nonsense.

ну, типа, этих птиц не существует.

Well, like, these birds don't exist.

На что она мне вспоминает самое первое сообщение и говорит,

She remembers my very first message and says,

ну, и вы задали мне, типа, ерунду какую-то.

Well, you asked me some kind of nonsense.

Какая птица может поднять теленка, типа?

What bird can lift a calf, like?

Я думаю, серьезно, то есть мы два дебила сейчас сидим,

I think, seriously, I mean we're two idiots sitting here now.

выясняем то, чего не может быть.

We are figuring out what cannot be.

Мне кажется, мы уже очень много крутого наговорили.

I think we've already said a lot of cool stuff.

Вот, я думаю, надо заканчивать, резюмировать.

Well, I think we need to wrap up, to summarize.

Есть еще какие-то темы, которые мы не раскрыли, на ваш взгляд?

Are there any other topics that we haven't covered, in your opinion?

Нет.

No.

Антон?

Anton?

Ну, если только экзистенциальные.

Well, only existential ones.

Я позволю себе немножко резюмировать нашу беседу.

I will allow myself to summarize our conversation a bit.

То есть, получается, промты – это классная, интересная штука,

So, it turns out that prompts are a cool, interesting thing,

которая может добавить нам веселья в жизни или в профессиональной деятельности

which can bring us joy in life or in our professional activities

реально очень сильно улучшить результаты выдачи

really significantly improve the results of the output

и вообще качественный скачок произвести.

and in general make a qualitative leap.

Но учиться ли этому прямо сейчас судорогу,

But is it worth learning this cramp right now,

когда нужно получать новое образование,

when it's necessary to get a new education,

или просто ждать, пока Яндекс добавит еще парочку кнопочек –

or just wait until Yandex adds a couple more buttons –

вот это интересный вопрос.

That's an interesting question.

И, друзья наши слушатели, я предлагаю вам ответить на него самостоятельно.

And, dear listeners, I suggest you answer it yourself.

Можете написать нам об этом в социальных сетях,

You can write to us about this on social media,

мы с удовольствием об этом почитаем.

We will be happy to read about it.

Что ж, спасибо вам большое за эту беседу.

Well, thank you very much for this conversation.

Мне кажется, очень интересный у нас получился диалог.

I think we had a very interesting dialogue.

Спасибо вам и до новых встреч, друзья.

Thank you and see you again, friends.

Спасибо, удачи.

Thank you, good luck.

Спасибо, спасибо, пока.

Thank you, thank you, goodbye.

Субтитры сделал DimaTorzok

Subtitles by DimaTorzok