Д-р Юлика Новкова: Губим контрола върху бизнес логиката, ако делегираме ключови процеси на AI

Време за четене: 17 мин.

Последна промяна 16.05.2026

“AI може да автоматизира голяма част от процесите, но „счупеното“ е в останалите 10%. Грешките и халюцинациите са толкова фино вплетени в резултатите, че откриването им изисква по-висока квалификация от самото изпълнение на задачата,” – казва д-р Юлика Новкова – бизнес психолог и организационен консултант. 

💡Как изкуственият интелект скалира хаос, от какво се притесняват малките предприемачи и до какво водят “умните грешки” – това са малка част от темите, които обсъдихме. 

✅ Прочетете интервюто с Юлика и не пропускайте безплатния чеклист за безопасна употреба на ИИ – подарък за читателите на блога.

Здравей, Джулс 🙂 Коя е твоята суперсила като бизнес психолог? 

Здравей, Алекс, и поздрави на твоите читатели! Благодаря за поканата =)

Моята супер сила е да виждам невидимите начини, по които хората са свързани в бизнеса. В резултат, хората свободно се свързват с подходящите екипи и клиенти и това създава огромно удовлетворение за всички, а и бизнесът върви напред.

От какво се тревожи бизнесът в момента покрай интегрирането на AI? 

Нека уточня, че всичко, което ще споделя, е само и единствено от гледна точка на нетехническите аспекти на бизнеса и касаят повече човешката страна на отношенията с AI.

Има много неща, които не можем да предскажем и това няма да се промени, само защото имаме AI. Но ако го използваме правилно ще виждаме перспективите пред себе си и ще взимаме по-категорични решения.

Изкуственият интелект ни прави по-смели, адаптивни и активни. Отлагаме по-малко и тестваме повече визии за бъдещето си. Това е инструмент и като такъв неговата природа сама по себе си не е заплаха. Заплахата идва от намеренията на хората да го използват.

Без да генерализирам, наблюдавам принципна разлика в начина, по който оперираме ние в България с AI и как си служат с него партньорите ми навън.

Тук като че ли по-бавно възприемаме технологията и ѝ се предоверяваме.

Сякаш не осъзнаваме изцяло какви рискове крие и как следва да я управляваме ефективно, за да постигаме целите си безопасно.

Не разбираме, че AI НЕ казва “истини” и на неговите отговори следва да гледаме по-скоро като на възможни обяснения, а не като на категорични решения. Подвеждащо е, защото сравняваме AI с компютрите, с които сме свикнали да работим.

Когато попитаме нещо класическите алгоритми, тe отговарят с ясното “ДА” или “НЕ”.

При AI резултатите са по-скоро в стил “Може би е това, но може и да е онова”. Ако разбираме тази принципна разлика, ще знаем, че резултатите НЕ са готови решения в 100% от ситуациите.

Имаме нужда да сме огромни професионалисти в своята област, за да преценяваме бързо дали AI помага или пречи.

Ние искаме AI да решава проблеми и да ни спестява всички стъпки в даден процес, докато AI е създаден да прави по-добре от нас само някои от нашите задачи. Всички тези особености на самата природа на AI пораждат огромен стрес в родния бизнес и големи, глобaлни полемики за това какво е редно и какво – не да възлагаме на изкуствен интелект.

Моята роля в компаниите, които въвеждат AI, е да им съдействам да изолират критичните стъпки в своите процеси, при които вероятността от грешка струва скъпо и отговорно.

Там е добре да поставяме човек, който да следи и контролира качеството на решенията, тъй като бизнесът е изцяло отговорен за своите решения, независимо дали са произведени от AI или от служител/контрактор.

Процеси, контролирани изцяло от AI, създават рискове и предпоставки за предлагане на решения, които вредят, а не помагат. А ние нямаме никакъв контрол кога какво решение AI на практика ще предложи и това поражда още смут и неясноти за какво можем и за какво НЕ можем да прилагаме AI в ежедневието си.

Ти самата за какво използваш изкуствен интелект? За какво му се доверяваш и за какво никога не би? 

AI е огромна част от моята работа, но към момента внедрявам алгоритми само за някои аспекти от обслужването на клиенти, не ползвам агенти, а само асистенти.

Всяка критична стъпка изисква човешки надзор и дори 1 грешка при мен струва доверие, сигурност, време и пари.

Използвам AI активно за проучване и анализ, за редакция и за трансформиране на съдържание от един формат в друг. Служи ми още за изграждане на прототипи, стратегии, рамки, както и за бързо тестване на идеи, продукти и услуги в пазарна среда.

Ползвам го още за обобщения, представяне на информация в различни формати и за подобряване на съществуващо съдържание, но е захранен с моята научна работа, моите рамки и доказали се в годините научни теории.

С негова помощ правим симулации на потребителско преживяване или на различни стратегии за управление на хора, процеси и клиенти. Така помагаме на лидерите да израстват по-бързо и ефективно, а на техните продукти и услуги да излязат по-бързо на пазара и да се позиционират по-точно.

Не използвам AI за анализ на сензитивни лични и фирмени данни, нито насърчавам внедряването му за критични операции.

На този етап AI не е много добър в това да интерпретира данни, които касаят субективните възприятия, а в моята работа това е огромен дял от информацията, с която работя: какво искат лидерите, какво пречи на екипите да са производителни, защо аудиторията НЕ се ангажира с даден бранд.

AI анализира исторически данни за поведение, които сме събрали с аналитични инструменти, но не може да интерпретира по смисъла на човешката интуиция защо хората се чувстват по даден начин в дадена среда.

Алгоритъмът обаче може да анализира данните, ако ние сме ги събрали с надеждни инструменти и сме подали контекста и рамката за анализ – тогава AI ни помага да видим повече за поведението на хората, а от там експертите като мен правят по-точни прогнози за бъдещето.

Етичното използване на AI е важна, но подценявана тема. Как прозрачността помага за повишаване на доверието към бранда? 

Много брандове НЕ изясняват как точно използват AI, нито на каква база взимат решения, т.е. не знаем колко от данните и решенията са получени с AI.

В моя бранд имаме доброволно изявление как точно ползваме AI и за какво НЕ ползваме AI, тъй като ние боравим с интелектуална собственост и създаваме иновации в начина, по който оперира дадена организация.

По тази причина обработваме предварително данните на клиентите, като премахваме сензитивна информация и не качваме сурови данни, а само анонимизирана и агрегирана информация.

Помагаме на бизнесите да създадат своите вътрешни политики как точно AI да работи за тях, а не вместо тях, за да може човекът да запази автономност и да взима уверено решения. AI не следва да взима решения, но може да ни помогне да подобрим начина, по който мислим за дадено решение.

Когато говорим за критични операции като наемане на хора, продажби и маркетинг, плащания и корепсонденция например, AI не притежава онази интуитивна за човека логика кога някой “принадлежи” органично и пасва на културата ни на правене на бизнес.

Може да се извиниш, че AI агентът ти е подвел клиента и е пратил неточни данни (ако грешката се улови навреме), но доверието между хората се чупи.

Обратното също е валидно: когато AI разполага с наръчници кое, какво, защо, кога и как следва да се изпълнява, когато имаме достатъчно защита на процесите и информацията, когато знае какво НЕ правим и защо, то AI ни позволява да сме по-бързи, точни и да обработваме повече задачи за по-малко време, при това с по-малко вероятност от неточни отговори.

Важно условие обаче е преди да подадем информация към някого извън бизнеса, да има човек, който да оцени от няколко страни дали решението или документът, съответстват на обещаното качество. В такива моменти наистина усещаме силата на мисленето през повече вероятности. И все пак, решенията следва да се взимат от човека, т.е. моята стратегия е “човешки контрол в затворен цикъл”.

Какви са рисковете при бизнесите с Wrappers (AI + API + Local Training) и кой носи отговорност при теч на сензитивни данни?

Рисковете са основно за самия бизнес, който е отговорен за решенията, които предлага. Лично аз избягвам да внедрявам wrappers както в своите процеси, така и в тези на клиентите ми.

Търся по-устойчиви решения, при които имаме по-голям контрол как се съхраняват данните, как се захранват моделите, какви рамки AI ползва за вземане на решения и как пазим чистотата на данните и на процесите на вземане на решения.

Нямаме пълен контрол нито над средата, нито над бюджета, нито можем съвсем да оптимизирме за личните си нужди.

Ако платформата рязко повиши цените си например, ако ограничи/премахне достъпа до есенциални за нас функции, ние ще загубим ключов двигател за своя производствен процес.

Освен това, отговорността при грешки, невярна или подвеждаща информация, е изцяло за микро бизнеса, дори да е възникнала по “вина” на създателите на модела.

Мога да си позволя да ползвам подобни решения за изграждане на прототипни процеси и дизайн на услуги, без да навлизаме в детайли и конкретика, просто, за да видим как биха изглеждали нещата в реалността, къде са пробойните и слабите места и над какво реално има да се работи.

Като няма човек на всяка стъпка да верифицира, цензурира и коригира, грешките са неизбежни, но и скъпоструващи. Още не съм открила за своята работа процес, в който агент може да клонира 100% моята дейност при същите нива на качество и конфиденциалност.

С какви казуси, предизвикани от AI, се срещаш в работата си? 

Въпросът за работата с AI често се разглежда през призмата на „спестеното време“, но в реалния бизнес контекст се сблъскваме с много по-дълбоки и невидими на пръв поглед казуси.

Ето основните предизвикателства, които срещам:

• Проблемът с „Черната кутия“ и доверието

AI оперира на принципа на вероятностите, а не на абсолютната истина. Проблемът е, че ние сме свикнали да вярваме на машините безпрекословно. Когато AI предложи решение, той не може да обясни логическия път до него.

Това създава огромен риск: скалираме хаос по-бързо, отколкото можем да го разберем или контролираме.

Счупените процеси пораждат хаотични решения, а те водят до непостоянни резултати. Добрата бизнес система движи напред дори в лошите за човека дни.

• Илюзията за 90% ефективност

AI  може да автоматизира голяма част от процесите, но „счупеното“ е в останалите 10%.

Грешките и халюцинациите са толкова фино вплетени в резултатите, че откриването им изисква по-висока квалификация от самото изпълнение на задачата.

В крайна сметка не спестяваме време, а просто прехвърляме ресурса от „правене“ към „одитиране“.

Ние трупаме огромен когнитивен разход, за да открием къде е възникнала грешката и е сложно да проследим процеса на обратно, след като не знаем как точно AI е достигнал до тези изводи.

• Замърсяване на данните и „ехо стая“

Светът е изправен пред недостиг на „чисти“ данни, създадени изцяло от хора.

В момента захранваме моделите с информация, която вече е генерирана от AI. Това води до шаблонизация: AI разпознава как говорим за проблемите (сценариите), но не разбира същината им, нито улавя културни и морални нюанси.

Ако променим леко думите си, резултатът се променя драстично, но бизнес не се гради върху „може би“, а върху предвидимост и научно обусловени допускания.

• Загуба на бизнес идентичността и личното „Защо“

Когато делегираме ключови процеси на AI, рискуваме да изгубим контрола върху собствената си бизнес логика.

Ако технологията изчезне утре, много бизнеси ще останат с кухи системи, които никой не знае как да управлява ръчно, нито как собственият му бизнес е взимал решения за клиенти, продажби, реклами и съдържание.

Прекомерната автоматизация убива персонализацията, а именно тя е основата на човешкото доверие. Ако си начинаещ може и да чувстваш, че напредваш бързо. Но ако си експерт, изчистването на шума ти отнема повече време, отколкото да създадеш.

Затова и умението да прилагаш точни рамки за поведение на алгоритъма е критично за креативността и иновативността на бранда.

• Логично, но неприложимо

Най-опасният казус е, когато AI генерира съдържание, което звучи напълно логично, но е фундаментално грешно за конкретния контекст или по принцип.

Ако логиката на алгоритъма противоречи на вашата специфична бизнес стратегия, вие получавате перфектно изглеждащ продукт, който обаче е напълно неприложим за вашата бизнес система и клиентите го усещат.

Бизнесите не се провалят поради липса на стратегия, а поради лошо изпълнение и ако към това добавим некачествена стратегия, то вече знаем как бизнесите бързо губят инерция и ресурси.

Ще загубим ли способността си да мислим критично и да задаваме въпроси? 

Много точен въпрос, с който се боря и аз самата вече месеци наред. Хората станаха нетърпеливи и раздразнителни, когато търсят решение.

Има един известен експеримент в Социалната психология, проведен от Уолтър Мишел, в който на деца се дава по 1 бонбон и изследователят им казва, че ако изчакат малко и не изядат веднага това маршмелоу, като се върне ще им даде още един. Оказва се, че децата, които изчакват търпеливо, по-късно в живота демонстрират завидна самодисциплина и устойчивост.

Търпението е стратегия на доверието.

Е, представете си сега как ние започнахме системно да се проваляме на този тест: AI ни прави неспособни да толерираме търкане и съпротивление в гледните ни точки.

Вече дори не се опитваме да задаваме дълбоки и критични въпроси.

В протоколите за работа например съм въвела изискване, когато генерираме нещо с AI и сме готови, да изискваме AI да тества идеята като изложи контрааргументация.

Алгоритъмът все така убедително ни уверява в 100% валидността на противоположната теория. Има ли как да знаем коя от двете версии е истинна и коя – не?

Ако си експерт в областта си се справяш бързо с критичната оценка на общия резултат и знаеш кое е валидно и кое – не и в двете гледни точки.

Как да използваме AI и да запазим критичност и разсъдливост? 

Важно е да знаем кога природата на AI ни носи ползи и кога – хаос.

AI е много старателен при ясни инструкции и ограничения, когато решава специфични и конкретни задачи. Така понякога е достатъчно да му кажем какво НЕ Е “готово” за нас и той свива вероятностите до опции, които се доближават до нужните ни решения.

Ако обаче разчитаме само на общи инструкции, то отговорите са неточни, непълни или дори грешни, дори да звучат като убедителна истина.

Да запазим критичността си означава да сме категорични какво наистина Е нашият бизнес и какво НЕ Е. Това дава посока на AI  какво и как да прави и кога и защо да НЕ прави, следвайки нашия смисъл и нашата логика и визия.

Отнема време и енергия да изградим тази документация, но тя служи както за обучение на нови кадри, за обучение на AI за изпълнение на конкретни задачи и процеси, но и регулира взаимодействието между различните отдели и служители, когато те самите ползват AI.

Ако спрем да консумираме реалността, която AI създава и започнем да създаваме своя собствена, по наш образ, то ще запазим автентичността си.

И тук не говорим за някакви сложни промптове, защото ако в промпта няма добре дефиниран процес, то всеки резултат, който AI произведе, ще ни се струва еднакво добър. А когато нямаме критична рамка за оценка, за да знаем кой резултат се явява същинско решение и кой – не, то изборът става все по-труден, отговорен, затормозяващ и рисков.

AI е префектен събеседник, но в живота хората рядко общуват толкова уважително и балансирано. Как ни променя това разминаване?

Хората винаги търсят лесното, ясното, познатото и не е учудващо, че AI запълва тази празнота. AI помага да се научим да говорим по теми, за които се срамуваме да говорим с  хора и това е огромен плюс.

Нямаме търпението да градим дълбоки отношения. По-лесно е да етикетираме другите, които не разбираме, като невежи, глупави или нещо по-малко от нас.

Хората са самотни и им липсва човешка топлота, дори когато имат усещане за лична правота. Те забравят обаче, че са само относително прави, а не абсолютно прави и тук се крие трудността ни – да приемем чуждата перспектива като валидна истина, дори да не е нашата.

Въоръжени с AI, хората си мислят, че знаят и разбират много повече – смяташ ли, че ще изчезне “синдромът на самозванеца”? 

Синдромът на самозванеца няма да изчезне с AI, увеличава се.

Хората все по-често представят идеи, теми, инструменти и съдържание, за които често нямат истинска яснота как са се появили. AI е взимал вместо тях решение на всяка ключова и критична стъпка. Можем да говорим уверено, но да знаем, че това не е истински личен опит и експертиза.

Ако махнем AI от бизнеса и мнението ти, какво наистина остава – реални знания, умения и опит или куха фасада?

Ако имаш обаче опит, знания и умения, ако учиш старателно по темите, в класически вид, то AI ти помага да отваряш врати и да сядаш на масата за разговори, които до вчера за теб са били невъзможни.

Какви са реалните страхове на българските бизнес собственици, свързани с изкуствения интелект? 

Тревожат се, че ако не въведат AI, ще изостанат, че няма да са конкурентни на пазара.

AI оптимизира процеси и разходи, създава по-точни инструменти и работни потоци, обработва повече посоки на развитие едновременно и предлага  по-широк хоризонт.

Интегрирането на подходящ AI също е сложна задача, особено за агенти и за автоматизация на процеси, която трупа и разходи, и рискове, и неяснота какво, защо и как е най-подходящо за дадената фирма.

И пазарът е сложен в момента, защото много бизнеси наистина вярват, че AI може да замести експертизата на всяка стъпка.

Пак казвам, такава картина без оценка на риска и реалните измерения е илюзия. Ще се търсят обаче експерти, които притежават специфични бизнес умения и експертиза, които заедно с това могат да създават и управляват асистенти и агенти.

Как да използваме безопасно изкуствен интелект за бизнес процеси? 

На база на всичко, което споделих, ето краткия протокол, с чиято помощ правим стрес-тест на компаниите за техните системи “човек-AI”:

Как да използваме AI безопасно? Мини чеклист за ежедневието:

Какво ти направи най-силно впечатление в проучването ни с Иванка Могилска за това как професионалистите в България използват изкуствен интелект? 

Впечатлиха ме три неща, които са симптоматични за „кризата на растежа“ при внедряването на AI:

• Парадоксът на експертизата: Фактът, че 67% от хората ползват AI в сфери извън своята компетентност, е тревожен. Това създава илюзия за знание. Когато не си експерт, ти не можеш да хванеш „умните грешки“ на алгоритъма, а те са най-опасните. Алгоритъмът ще следва инструкциите дори когато логиката е абсурдна от човешка гледна точка, защото на него му липсва умението да тълкува контекста или парадоксите, с които хората сме свикнали и са част от нас.

• „Сивата употреба“ и премълчаването: Това, че всеки втори премълчава пред клиентите си, говори за липса на доверие и липса на професионална етика. Ако се срамуваш да кажеш, че ползваш инструмент, значи или не вярваш в качеството му, или се чувстваш като „измамник“. Това блокира изграждането на прозрачни партньорства. Носи риск и от това да произвеждаме фактологично неверни данни без да имаме система за проверка и верификация.

• Липсата на защита на данните: Само 31% премахват чувствителна информация. Това е огромна червена лампа за сигурността на интелектуалната собственост в България.

Можем ли да говорим за екзистенциална криза в професиите, предизвикана от AI? 

Всички сме засегнати, но е вярно, че някои хора са по-уязвими, защото AI наистина сякаш дублира уменията им.

Не мисля, че е в природата на човека да не се адаптира, исторически погледнато вървим все напред.

Уморително е да учиш непрекъснато, но пък бездействието уморява интелекта и душата ни.

Винаги можем да излезем от ситуация, като учим и търсим начини да приложим уменията си в нов контекст. В крайна сметка, има умения, които са преносими – да бъдем креативни, как решаваме проблеми, да сме активни.

Аз се опитвам да мотивирам и младите, които сега навлизат на пазара, да си следят собствените интереси и таланти и да учат какво могат да правят по-бързо и по-точно от своите връстници с AI.

В крайна сметка, днес една компания ще назначи човек без опит, но с умения за AI и това е факт, с който ще трябва да свикнем.

Хората, които разчитат на себе си и вярват в своите таланти, качества и умения, винаги намират своя начин.

Ако трябва да откроиш 3 неща, които ще постигнем заедно с AI като инструмент, кои ще са те? 

Обичам да тествам всякакви инструменти с AI и намирам за особено хубаво, че AI разширява собственото ти мислене във всички посоки, едновременно.

Показва ти още какво можеш да учиш, знаеш и можеш, защото “новото” е гранично с твоето дълбоко познание. Учи те как да говориш за нещата, които умееш и как да представяш по-точно, ясно и осмислено своите процеси, услуги, резултати и решения.

Второ, учи те да вярваш на опита, мъдростта, инстинктите си и интуитивната ти логика.

Мотивира те да знаеш, да можеш и да владееш различни инструменти и да си отворен и любопитен човек. Това пък неминуемо те води до срещи с много и различни хора и въсщност AI трупа в момента най-вече социален капитал за мен. Имаш достъп до всичко, което ти трябва, за да намериш своя ритъм.

Трето, AI демократизира ученето през целия живот, както и достъпа до услуги и продукти, хора и идеи.

Когато видиш света от този ъгъл, ще видиш, че AI ще ни промени като общество, но няма да промени нуждата да имаме общи цели, нужди, мечти. Все повече ще имаме нужда от топлота, споделеност, заедност и взаимна радост.

AI ни помага да събираме по-бързо и по-точно данни за човешкото поведение и така осветляваме невидимото и опознаваме неизвестното. Имаме нужда от инструменти, с които можем да предсказваме навреме когато дадена идея на AI ще разруши отношение, климат, позиция или дори нечия психика.

Обръща се повече внимание и върху това как се чувстват клиентите, докато работят с нас, а не само дали сме им полезни и достъпни.

Какво послание ще оставиш за читателите, които ще видят това интервю след десетина години? 

Здравей ти, който днес умееш да виждаш света по начин, по който аз може и да не мога. Надявам се да си все така търсещ смисъла си и да се радваш на живота си. Надявам се хората да са източник на споделеност, топлота и любов, а не просто оператори, с чиято помощ постигаш цели и успехи.

Надявам се да имаш шанса да си по-креативен, иновативен и продуктивен от мен. Да си по-нетолерантен към социалните несправедливости и все така устремен да защитаваш безстрашно свободата на човека.

Надявам се това, което постигаш, да носи смисъл и полза, дълбочина и широчина и на другите, а не само на теб. Дано вече знаеш, че без твоята искра живот, AI е едно кухо огледало на човешката душа и нуждата да знаем кои сме, защо сме тук и защо ни има. И дано сте успели да видите още много наши светли, креативни и полезни проявления.

А ако не сте и сте загубили човешкото в отношенията си, ако все повече общувате с транзакции и мерите успеха си в числа, то нека ти напомня, че човекът създава магия, която технологиите не могат – любов: към себе си, към живота и към околните и без това, нищо от нашия прогрес няма истинска стойност.

Благодаря ти, Джулс! Оставям финала отворен за твоите лични мисли и послание към читателите на моя блог. 

Пожелавам на всички ни смелостта да бъдем уязвими и да падаме, както и упоритостта на малкото дете, което се учи да ходи, за да ставаме и да вървим напред.

Пожелавам си да има хора, които протягат към нас ръка, за да продължим, а когато сме готови, да подадем ръка и ние.

На хората, на които животът е отредил да трябва да се справят много повече сами, защото зад гърба си нямат цяло село, пожелавам да вярват в себе си, в личността и уменията си и в смисъла си.

Каквото и да ви поднесе светът, просто вярвайте, че можете да се справите, защото щом сте тук и ви има, значи сте успявали и преди. Променяйте. Адаптирайте. Еволюирайте.

---

Полезни ресурси за AI и интегрирането му в бизнеса:

Български бранд с фокус солопредприемачи, фрийлансъри и микро бизнеси

Международен сайт с фокус технологии и услуги за стартъпи и развиващи се компании

Разработки за AI на български и на английски от д-р Юлика Новкова

Мая Цанева: Не позволявайте на AI да убие критичното ви мислене

Защо журналистиката и дигиталният PR стават по-важни в ерата на AI Search

---

✅ Още задълбочени ръководства, интервюта и полезни матерали за маркетинг и AI публикувам всяка седмица в моя бюлетин. 

Абонирайте се и веднага ще получите най-новия брой + достъп до пълния архив.

---

* Изображенията в това интервю са генерирани с AI и обработени с Canva. Всички останали снимки са оригинални и са от личния архив на д-р Юлика Новкова.