Ефирни телефони: 02 963 56 50 и 02 963 56 80
Размер на шрифта
Българско национално радио © 2025 Всички права са запазени

Проф. Преслав Наков: Силата на фалшивите новини е поради слабостта на хората

| Интервю
Проф. Преслав Наков
Снимка: Виктория Вучева

Световнопризнатият български учен в областта на изкуствения интелект проф. д-р Преслав Наков беше основен лектор на форума "Up to GATE. Technology, Big Data & Beyond. 5 Years of Innovation”.

Международното събитие събра в София учени и лидери в индустрията от цял свят, които дискутираха горещите теми, свързани с интелигентни решения чрез съвременните технологии на важни за обществото проблеми  в направленията цифрово здравеопазване, градове на бъдещето, интелигентно правителство и умна индустрия. Важен акцент по време на форума беше ролята на изкуствения интелект (ИИ) в откриването и борбата с дезинформацията, повишаването на медийната грамотност и насърчаването на по-безопасна онлайн среда.

  • Проф. Преслав Наков е познат като създателя на изкуствен интелект  – „ловец“ на фалшиви новини, при това преди още те да бъдат написани. Той е ръководител на катедра „Обработка на естествен език“ в университета за изкуствен интелект „Мохамед бин Зайед“ (MBZUAI) в ОАЕ – първият в света университет за ИИ. Световен лидер в областта на фалшивите новини и фактологията, той е част от основния екип, разработил Jais - най-добрият в света голям езиков модел с отворен код, ориентиран към арабския език, Nanda - най-добрия в света модел на хинди, и LLM360, първият наистина отворен голям езиков модел.

По време на участието си във форума проф. Преслав Наков акцентира върху предизвикателствата, свързани с фактологията на големите езикови модели  и борбата с дезинформацията и най-новите изследвания, върху които работи.

"Напоследък се занимавам с построяване на големи езикови модели и работя и в намаляването на халюцинациите – разказа ученият пред БНР-Радио София. – Фалшивите новини са тук. Ние имаме няколко системи, които са готови за новата ситуация с големите езикови модели. Един от е Opened Fact Check – средство за проверка на фактологичността на това, което е генерирал големият езиков модел и не само. Можем да вземем произволен текст, да го сложим, той се декомпозира на прости твърдения, които едно по едно се проверяват. Интересното всъщност е, че имаме и не само проверка, но и коригиране в случай, че твърдението не е вярно. Имаме и обяснение защо не е вярно, разполагаме с информацията, на базата, на която е взето това решение."

Проф. Наков изтъкна, че сред другите нови и важни проблеми е проверката дали даден текст е потенциално генериран от машина. Това засяга и образованието, и на науката, и други сфери.

Големите езикови модели имат огромно значение. Те могат да се обучават на много малко примери, включително без примери, обясни още специалистът.
В момента изследванията са насочени към различни аспекти, включително те да бъдат по-фактологични.

"На този етап изкуственият интелект не е на това ниво, което да ни плаши. Но трябва да вземем мерки така, че той да бъде сигурен. Това е нещо, за което трябва да се замислим от самото начало. Има много различни начини да се заобиколят тези защити, но това по някакъв начин е подобно на сигурността в киберпространството. По същия начин искаме да обезопасим тези големи езикови модели и системите, базирани на тях. Има много регулации, свързани с това", отбеляза още проф. Преслав Наков.

По думите му, науката в България отдавна е станала европейска и световна. Доказва го и екипът на GATE с работата си.

Чуйте цялото интервю на Катя Василева с учения.

По публикацията работи: Георги Нейков

БНР подкасти:



Последвайте ни и в Google News Showcase, за да научите най-важното от деня!
Бъдете наши приятели във Facebook, следвайте ни и в Instagram. За да научавате всичко най-важно, присъединете се към групите за новини – БНР Новини, БНР Култура, БНР Спорт, БНР Здраве, БНР Бизнес и финанси.
ВИЖТЕ ОЩЕ
Момчил Николов

Искам да видя нещо ново, което ме чака зад ъгъла

Момчил Николов , автор на „“ и носител на престижната награда „13 века България“, за третата си книга от поредицата "Чекмо": "Чекмо е истински човек. Познавам го от 2002-3, когато живееше в Испания с питон-албинос "Джеймс Бонд", който влезе сега в третата книга. Казах му: "Йонко, един ден ще напиша роман за теб". Името му е Йонко, викат му..

публикувано на 06.04.25 в 11:03
Стара София

Софийски разкази - Обявяването на София за столица

Разлистваме старите документи за избирането на София за столица на България: Но още преди 1879, за Иван Богоров тя е: "Гъбава с руди, разположена на приятно и лично поле при р.Искър. Има чисти и широки улица, добричко училище. Околностите са накичени с 12 манастира."  Георги Раковски я нарича "сърцето на България" в недовършен ръкопис, а за Петко..

публикувано на 05.04.25 в 16:00

Историята оживява - Извори за миналото на Копривщица от османските архиви, част първа

Светлана Мухова и новата ѝ книга "Извори за миналото на Копривщица от османските архиви": "Идеята за книгата възникна към края на 2023, Васил Теохарев от с.Розино е вдъховител. Той е млад човек, който изследва своя район. 1525 е първото споменаване на Авред Алан (женска поляна) - първият топоним на Копривщица, която още не е поселище. По негова идея,..

публикувано на 05.04.25 в 15:00
Петко Р. Славейков

Адресите на любовта - Петко Славейков

Петко Славейков имал две жени накуп Веруюто на палавия поет било „Жените са дяволи, които ни проваждат в пъкъла през райските врати” Възрожденският поет и просветител Петко Рачов Славейков познава твърде късно истинските чувства, при това като участник в любовен триъгълник. Той е отдавна женен за Иринка, от която има осем деца, когато се..

публикувано на 05.04.25 в 13:55
Стефан Караманов (вляво) и Благой Иванов

Винаги ще има нещо "отвъд"

Фантастичният фестивал „ През 9 земи “ - представят ни го организаторът Стефан Караманов и един от участниците, писателят и кинокритик – Благой Иванов: "Целим среда между клубните, форумни срещи и големите комерсиални събития, силен компонент е, че го правим извън града. Отиваш на фантастично място и сме средно сериозни като съдържание - лекции плюс..

публикувано на 05.04.25 в 11:39
Емануела Иванова

Няма готови решения, те идват от самата общност

BoostBalance – балансът в работа - родителство - доброволчество, който не включва изперкване. С нас е Емануела Иванова от TimeHeroes: "Общата тема се роди в екипа, когато в екипа започнаха да се раждат деца. Като родители и професионалисти се сблъскахме с едни и същи неща. Започваш да се усещаш, че не можеш да провеждаш нормален разговор с..

публикувано на 05.04.25 в 10:59

Когато учените се изявяват и като актьори

Театралният спектакъл „ Космосът на чудесата “ с премиера на 10 април в София.  Спектакълът е създаден в рамките на европейския проект Please ASK! за продуциране на театрални произведения в сътрудничество с учени, комуникатори на науката и научни институти.  Гостуват ни  Димитър Узунов – артистичен директор и  д-р Владимир Божилов – научен..

публикувано на 05.04.25 в 10:00