Ne znamo kuda to vodi, upozorio je on.
Niko zapravo ne zna šta će se dogoditi ako umjetna inteligencija dođe do tačke u kojoj počne u potpunosti sama sebe trenirati, upozorava Džared Kaplan, suosnivač i glavni naučni direktor firme Anthropic, koja razvija model Claude.
Kaplan, fizičar koji je prešao u svijet umjetne inteligencije i postao jedan od ključnih ljudi Silicijske doline, izjavio je da bi prepuštanje sistema samome sebi moglo izazvati pravu “eksploziju inteligencije”.
No to je, ističe, ujedno i najveći mogući rizik te vjerojatno najstrašniji potez koji čovječanstvo može povući. Prema njegovim procjenama, ta prelomna tačka mogla bi nastupiti između 2027. i 2030. godine, a najnapredniji sistemi već danas pomažu programerima u stvaranju novih modela, piše Business Insider.
Kaplan nije vanjski teoretičar ili paničar – on je čovjek koji je postavio matematičke temelje današnjeg buma umjetne inteligencije.
Dok je radio u OpenAI-ju, vodio je istraživanje koje je dokazalo da veći modeli i više računarske snage daju dramatično bolje rezultate, a učestvovao je i u stvaranju modela GPT-3, na kojem je nastao ChatGPT.
Zajedno s kolegama napustio je OpenAI 2021. godine kako bi osnovao Anthropic, upravo zato što su smatrali da se moraju pripremiti za trenutak kada će čovječanstvo početi prepuštati kontrolu mašinama. Njegov je posao danas osigurati da razvoj ne ode u krivom smjeru.
Njegova upozorenja sve češće odjekuju među samim inženjerima.
