Изкуственият интелект - заплаха или помощ?

Тя отбеляза, че не сме много сигурни за много неща от изкуствения интелект, като например каква информация дава, въз основа на какво, кой му е дал данните, от които събира информация. И допълни:

"Колкото и да е позитивно това, че огромни масиви от данни могат да се обработват много бързо, което би затруднило човек, би имало нужда от изключително много хора, които да правят едно и също, от друга страна когато говорим за изкуствен интелект, говорим за тези специфични неща, които касаят човешкото мислене и въобще способностите само на човек."

Банова поясни, че когато една система е захранена от определен езиков модел, той има своите предразсъдъци в себе си, включително и дискриминация. И ако на изкуствения интелект му се даде възможност да взема решения в определени посоки, то това би било опасно. Относно дезинформацията в интернет тя каза:

"Изкуственият интелект не прави разлика между това, кой е дал информацията, откъде е, какъв е бекграунда. На него са му нужни битове информация, с които когато го захраниш, той я вкарва в "черната кутия", в която вътре са алгоритмите, изчисленията и всичко и най-накрая дава резултат. Идеята е, че колкото по-прецизен си в това, което задаваш като искане, би следвало толкова по-прецизен резултат да излезе накрая."

Банова посъветва хората да проверяват информацията и от други източници. Освен това отбеляза, че AI не е много добър за лицево разпознаване и е възможно например да обърка човек с чисто минало с такъв, който има криминално минало.

"Един от големите рискове, които крие AI е точно централизацията на властта. Голяма тема в Европа също е, националната сигурност да не се превръща в основание за изключване на регулацията на AI, понеже има такива идеи", отбеляза тя. И допълни:

"Ако дадем възможността на една технология да има морал приравнен на този, който едно човешко същество може да има, въз основа на опита, на живота си, на всичко, което му се е случило дотук, въпросът е това справедливо ли е? И какъв краен резултат може да има след 10 години, след 20, след 30, ако ги уравним помежду им, какво може да се случи."

Банова отбеляза, че тъй като сме в началото на този процес използваме AI безкритично, а едно човешко право не може да бъде защитено, ако не го познаваме и не знаем как може да бъде нарушено.

Подробности можете да чуете в звуковия файл.