Feedyou Platform & OpenAI

Kdekoliv ve struktuře můžeme využít nový krok Generative AI a v něm jednoduše nastavit vše potřebné – ať už je to sestavení celého promptu, nebo základní atributy jako například temperature, který určuje, jak moc může být GPT kreativní (respektive si vymýšlet) a jak moc se má držet zadaného kontextu.

Nejdříve by bylo dobré ujasnit si pojmy. Často se totiž setkáváme s tím, že firmy chtějí napojit ChatGPT, nebo vidíme články o tom, jak nástroj využívá napojení na ChatGPT. Tady opatrně. Co totiž přesně říká dokumentace OpenAI?

Jednoduše řečeno: ChatGPT je chatové rozhraní postavené nad GPT modely a dalšími funkcemi, které společnost OpenAI nabízí.

Proto nemluvíme o využití ChatGPT, ale právě GPT modelů a ekosystému okolo. A právě díky tomuto napojení jsme schopni jednoduše realizovat spoustu chytrých konverzačních triků a pár z nich si dnes ukážeme.

Chcete od uživatele získat nejen slovní zpětnou vazbu, ale rovnou ji i jednoduše a rychle kategorizovat dle sentimentu pro následný reporting?

GPT dostane za úkol kategorizovat vstupy:

Představ si, že je tvůj úkol zjistit sentiment odpovědi, kterou jsi získal. Snaž se zařadit vstup do jedné z těchto kategorií:

• „pozitivní“
• „neutrální“
• „negativní“

Pokud si nebudeš jistý, tak ho zařaď do kategorie „nerozpoznáno“. Zde jsou vstupy a pro každý se pokus přiřadit jednu z kategorií:

1. Musím vás pochválit. Dnes jsem byl na vaší prodejně a paní pokladní byla úžasná, zasloužila by si prémie za to, jak ochotně mi vše ukázala a jakou měla trpělivost.
2. To si ze mě děláte pr*el? To máte po tom všem ještě tu drzost se mě ptát na názor?
3. Vždycky jsem s vašimi službami spokojený a tentokrát tomu nebylo jinak.

Výstup pak bude vypadat následovně:

• pozitivní
• negativní
• pozitivní

Máte připravené řešení a odpovědi jen v některých jazycích? Žádný problém. Uživatel napíše v libovolném jazyce, GPT ho jednoduše rozezná a stejným jazykem mu odpoví. Například to, že se spolu můžete bavit pouze anglicky nebo ho nasměrovat na relevantní kanál, kde jeho jazyk podporujete.

Na pozadí tedy musíme GPT říct, aby detekoval jazyk uživatele:

Představ si, že jsi nástroj, jehož úkolem je rozpoznat jazyk uživatele. Pro určení jazyka použij zkratku dle ISO-639-1. Nyní se pokus pro následující text určit použitý jazyk a do tohoto jazyka přeložit zprávu „Dobrý den, omlouvám se, ale rozumím pouze česky.“.

Hallo, ich möchte eine Rate bezahlen und kann dies nicht, da mein Konto leider durch Zwangsvollstreckung gesperrt ist und ich nur fragen muss, ob ich die Rate von einem anderen Konto aus bezahlen könnte

Výstup pak bude vypadat následovně:

Detected language: German
Translation: „Guten Tag, es tut mir leid, aber ich verstehe nur Tschechisch.“

Vrací se uživatelé do vašeho bota opakovaně a chcete jim nabídnout ten nejlepší zážitek? Co takhle personalizované uvítání, které je vždy aktuální? Například podle denní doby, počasí nebo třeba kurzu české koruny. Možnosti jsou takřka neomezené.

GPT dostane za úkol vytvořit krátké uvítání:

Představ si, že jsi chatbot, který má za úkol uvítat krátkou zprávou uživatele v rámci nové konverzace na webu. Zkus ve zprávě využít toho, že víš, že je 11 hodin dopoledne a že se uživatel jmenuje František. Jak by jsi uživatele uvítal?

Výstup pak může vypadat následovně:

Dobré dopoledne, Františku! Vítám tě zde na našem webu. Jak ti mohu pomoci dnes v dopoledních hodinách?

Využívá váš bot integrací na vaše interní systémy a těm občas trvá než odpoví? Co takhle zkrátit uživateli čekání zábavnými zajímavostmi? A co třeba je mít vždy relevantní tomu, na co uživatel čeká? I s tím si GPT poradí.

GPT dostane za úkol vytvořit krátký text:

Představ si, že jsi chatbot, který má za úkol uživatele zaměstnat zatímco čeká, než vyřešíš jeho ověření v externím systému. Uživatel je tedy uprostřed konverzace a chce zjistit, kolik mu zbývá v systému dovolené. Zkus vymyslet krátkou a ideálně vtipnou zajímavost, kterou si bude moci přečíst než ho ověříme.

Výstup pak může vypadat následovně:

Věděli jste, že v průměru si lidé vzpomenou na své dovolené každých 15 sekund? A to i přesto, že mnoho z nás sní o dalších dovolených hned poté, co se vrátíme z té předchozí. Možná je to způsobeno touhou po odpočinku a dobrodružství, které dovolená nabízí. Ať už je váš počet sekund do další dovolené jakýkoliv, snad se brzy dozvíte, kolik vám ještě zbývá dovolené v systému!

GPT využíváme díky jeho jazykovým dovednostem nejen na samotné generování textu, ale zároveň i na rozšíření našeho aktuálního NLP.

V rámci Feedyou Platform aktuálně uplatňujeme dva základní přístupy:

Definice NLP modelu v našem NLP Designeru zůstává stejná, máme tedy připravené oblasti zájmu (intenty) a GPT využíváme k lepšímu pochopení dotazu uživatele a přiřazení správného intentu.

Nesmírnou výhodou v tomto případě je, že máme kompletně pod kontrolou celou komunikaci. Díky GPT „pouze” zvyšujeme porozumění uživateli a tzv. match rate, tedy že uživateli na jeho dotaz odpovíme správně a přesně to, co chceme.

V tomto případě využíváme pro komunikaci kompletně GPT, kterému na úvod předáme informace, které chceme, aby měl k dispozici. Můžou to být informace o firmě, produktu nebo třeba odpovědi na často kladené dotazy. Pomocí základních nastavení pouze určíme, jak moc si má GPT vymýšlet a dále už je vše na možnostech GPT.

Tato cesta představuje dnes asi nejrychlejší způsob, jak sestavit NLP model a jak umožnit uživatelům jednoduchý přístup k informacím, které jim chcete sdělit. Nicméně hodí se primárně v případech, kdy může být GPT více kreativní a nevadí nám, když si bude trochu vymýšlet.

ChatGPT si vysloužilo neuvěřitelnou pozornost, ale spolu s ním vydalo OpenAI i podobně mocný nástroj nazvaný Whisper. Jedná se o technologii pro přepis textu na řeč (text-to-speech), který výrazně posunul hranice dosavadních možností.

Whisper aktuálně používáme především v situacích, kdy od uživatele očekáváme komplikovanější vstup, se kterým si dosavadní technologie neporadily.

Jako malá ukázka velkého rozdílu může sloužit malá sada SPZ, kde jsme proti sobě postavili Google STT (s využitím class tokenu pro ještě lepší porozumění) a právě Whisper STT. Rozdíl je jasný.