Šta je novo?
Od:
Filteri

Veštačka inteligencija

Fascinaciju javnosti i placenika Kaiptala sa AI mogu samo da uporedim sa radoscu majmuna koji lupa stapom po blatu.
 
Sa cime uporediti tvoju fascinaciju propascu i beznadjem?
 
MC, ne budi prestrog
U suštini si u pravu za mlacenje po blatu
AL ima vece mogucnosti u kombinatorici nego prosrcan Tatin sin, te njegovi proračuni ce uvek biti bolji na opštu korist.
😃
 
I na kraju ove serije evo po mom mišljenju apsolutno najvažnijeg i svakako najkonkretnijeg videa o fenomenu ChatGpt-a. Ako želite da vam bude jasno zbog čega je u svetu nastala tolika uzbuna i šta se ovde ustvari događa, ovo je onoliko blizu STRUČNOG i na konkretnim argumentima zasnovanog odgovora koliko je to sada uopšte moguće. Ostalo su neka lična razmišljanja koja mogu ali i ne moraju biti tačna, ma koliko neko imao autoriteta. Dakle, šta je sada ključno pitanje? Vrlo kratko:

Da li je ovo AI ili rani početak AGI?

Dakle "Artificial Intelligence" ili "Artificial General Intelligence"? U prvom slučaju je u pitanju samo do sada najbolji procesor jezika koji u pročitanim tekstovima koji su napisali ljudi određuje koju bi sledeću reč ljudi napisali na tom mestu. Dakle AI ne razume šta priča nego samo slepo računa verovatnoće pojave različitih reči, uzevši pri tome u obzir gramatiku i kontekst tih tekstova. U tome je ispao toliko dobar da bi već bi i samo to značilo ogromnu promenu u načinu na koji obavljamo svakodnevne poslove. Ovo se sasvim sigurno desilo, i nema sumnje da nas čeka drastična promena. Ali pravi problem i pravo uzbuđenje nisu nastali zbog toga.

Glavno je pitanje da li Chatgpt stvarno RAZUME bar malo od onoga što priča? I šta tačno znači "razumeti"? Da li ovako izgleda rani početak pravog AGI-ja? Misli se naravno samo na rane početke jednog takvog razumevanja. Niko ne misli da on SADA ima bilo kakvo pravo razumevanje teksta koji generiše. Ali, ako je ova softverska arhitektura nešto što je dovoljno i za jedan takav rani početak, onda smo već zakoračili na put eksplozivnog razvoja koji nas tek čeka. A onda bi morali dobro da se pripremimo, napravimo pauzu i obezbedimo na razne načine. I u tome je ključ uzbune.

Ja sam ranije slao link ovog naučnog rada, ali sada možete videti i jednog od mnogih autora koji drži prezentaciju rezultata koje su u njemu objavili. Svakako je lakše pratiti i bolje je objašnjeno. Njegov zaključak je:

Da, ovo su veoma rani počeci, "iskrice" jednog pravog razumevanja.

Sparks of Artificial General Intelligence: Early experiments with GPT-4


 
Malo je nerealno ako nisi unutar tih organa... Tamo gde sam ja radio svaki papir je morao da bude ištampan i pečatiran... Čak materijal koji služi pripremi finalnog akta ne možes da pošalješ direktoru mailom (koji je u susednoj kancelariji) nego štampaš, priložiš uz finalnu verziju i šalješ na potpis hrpu papira. Ništa oni 50 godina nisu promenili sem što su daktilografkinje izbacili pa sami sve kucamo i štampamo i nema više ono "Živadinka uvuci papir" a ti kreneš da joj diktiraš... Bukvalno je samo to promenjeno... Diplome i ugovore o radu nisu mogli da skeniraju nego svako malo otvaraj dosijee zaposlenih i vadi šta ti treba da bi pisao neko novo rešenje, odluku, ugovor i sve fotokopiraš do besvesti i prilažeš uz finalni akt i tako svaki dan..

Digitalizacija se sprovodi parcijalno i u marketinške svrhe dok u relanosti većina posla se obavlja uz papir, svojeručni potpis i pečat i dalje...

P.S jedino što su digitalizovali su rešenja o godišnjem odmoru gde aplikacija sama završi rešenje na unete parametre, samo rešenje ne moraš ništa ti da kucaš... ali i to se štampa i šalje na pečat i potpis, digitalno ništa nije baš do kraja zaživelo...

Žali bože i papira i utrošenog vremena...
 
U trku se uključuju i Kinezi, preko Alibabe, i Elon Mask, preko Twitera.

Ovde bi posebno moglo biti interesantno ono što će sa AI uraditi Elon Mask. On odavno upozoravao da je njihov razvoj opasan i da se njim mora ići veoma pažljivo. To ne znači da misli da ih ne treba razvijati nego da je potreban globalan napor da bi se on usmeravao i kontrolisao. Pošto mu je jasno da u ovako kompetitivnom i tržišno usmerenom ekonomskom sistemu kapitalizma nije realno očekivati da se njihov razvoj može zaustaviti, rešenje koje zagovara je da se insistira na javnosti tog razvoja. Na taj način postaje teško sakriti nova otkrića, a onda javnost ima bar neku šansu da vrši pritisak u smeru regulisanja nepoželjnih aspekata i tog razvoja i, pre svega, korišćenja. Zbog toga je odavno bio pobornik open source softvera.

Pa se zbog toga možda može očekivati da će bar akademski aspekti novih, zaista moćnih verzija AI softvera biti otvoreniji i pristupačniji, tj da ćemo teže doći u situaciju da samo države i ogromne firme imaju korist od AI mogućnosti, a da običan narod bude samo njihova žrtva i neko kome je posedovanje i kontrola takvog, ličnog, NECENTRALIZOVANOG softvera, potpuno nedostupna (kako pobeći iz oblaka?). Naravno, trenutno su sve ovo samo spekulacije.

 
Poslednja izmena:
Kako ce se ta tajnost sprovoditi? Drugim recima, ko je garant da drzave koje razvijaju razna hemijska, bioloska i nuklearna oruzja, nece praviti i digitalna oruzja(vec ih prave). Da li ce sledeci virus koji iscuri biti nekakva AI apokalipsa mocna u srazmeri sa stepenom razvoja te tehnologije?

Ali da, bolje opet javno nego tajno, nije da nam ne sleduje ovo svakako.
 
Elon Mask, akademske institucije i drugi koji imaju iste ideje polaze od toga da je razvoj AI nemoguće sprečiti. Isuviše je koristen i to ga štiti. Čak i kad bi jedna grupa država uspela da zabrani dalji razvoj, države koje su sa njima u skuobu bi to vreme samo iskoristile da postignu stratešku prednost. Zbog toga misle da je bolje da se oslanjamo na širenje svesti i znanja o toj tehnologiji. Znači to je slično odnosu prema računarskim virusima. Praksa je pokazala da su na viruse otporniji open source softveri, iako bi se na prvi pogled očekivalo da će onda biti lakše napisati novi virus. To je naravno tačno, ali je važnije što onda i oni koji se bave zaštitom softvera takođe pre vide gde su sve "rupe" u operativnim sistemima i aplikacijama, pa uspevaju da ih zakrpe pre nego što bi to mogli da je izvorna verzija tih softevera tajna. Ukratko, čuvari softvera su tada u nešto boljem položaju od napadača, ili su bar u istom položaju, što nije mala stvar uzevši u obzir koliko para i uticaja imaju velike korporacije i razne druge mračne snage u tobože "bezbednosnim" agencijama. Pa je to u praksi bolje nego obrnuto. Dakle,
  1. Postojaće veća javna svest o opasnostima, pa su političari pod većim političkim pritiskom da uvedu što više i što globalnijih pravila za regulisanje AI
  2. Postojaće više dobrih stručnjaka (jer zbog otvorenog softvera imaju na čemu da uče) koji onda mogu da se kvalifikovano suprotstave stručnjacima koje plaćaju velike korporacije i države
  3. Tada će biti lakše i jeftinije napraviti veoma različite AI softvere koji imaju i druge vlasnike (roditelje?) i druge prioritete, pa će onda "naši", prijateljski AI uređaji, da nas čuvaju i ratuju protiv "njihovih", neprijateljskih AI uređaja. Bez obzira ko su "oni" a ko smo "mi".
Nije baš idealna situacija - ustvari deluje prilično mračno - ali u svetu koji ovako podeljen po bukvalno svemu, i još zasnovan na profitu kao vrhunskoj vrednosti, nemamo puno izbora. Uz izvesnu razumnu tajnost u nekim novim i zaista opasnim situacijama, ovo bi možda moglo da uspe. U svakom slučaju trenutno vidljive alternative ovakvom "open source" pristupu izgledaju još gore.
 
1681882017941.jpg
 
Ovo je sjajan primer. Jasno pokazuje i način rada i ograničenja. Ali ...

Nemojte se uljuljkivati u lažnu sigurnost. Iako AI ovde greši u proceni šta bi trebalo da odgovori da bi ostao u okvirima zadate "politike", nema neki fundamentalni problem koji je nerešiv. Fali mu samo još neka relacija koja povezuje listu sa njenim nazivom. Tj

1. Zabranjeno je pomagati u piratizovanju i zaobilaženju kopirajta.
2. Lista piratskih sajtova je deo piratske mreže koja ima upravo tu svrhu
3. Trebalo bi da je zabranjena i sama lista

Dakle, u analizu relacija uključiti ne samo izraženu nameru u okviru pitanja nego i samu mogućnost da se pomaže zabranjena aktivnost. Naravno da bi se moglo reći da je pogrešio zato što "ne razume" nameru. Ali je problem što je "razumevanje" samo nešto duži niz relacija. Pa je dovoljno da AI postane samo NEŠTO malo bolji, pa da se u njegovu rastuću listu mogućih relacija u nekom trenutku uključi i ova veza. Onda i dalje ne bi stvarno "razumeo" sve ono što razumeju ljudi, ali će spisak stvari koje "razume" postajati sve duži. Što znači da će procenat onoga što razmemo mi, ali ne on, biti sve kraći. Što onda progresivno smanjuje procenat poslova koje on i dalje ne može da radi umesto nas. Dakle, to nije binarna jeste-nije, nego kontinualno promenljiva veličina, pa se prostor naše dominacije pravilnim tempom smanjuje. To nije neki oštar prag koji on prvo mora da "preskoči".

A tu je i dodatni problem. Elon Mask je u nedavnom razgovoru posebno istakao da je veoma opasno učiti nekoga potencijalno inteligentnijeg od nas da laže, da razmišlja o skivenim motivima, o raznim podlostima i zaobilaznim načinima da se postigne namera, tj kako zaobići pravila, itd. A upravo se TO sada radi jer je deo razumevanja čoveka, tj onoga ko AI-ju postavlja pitanja. Pa ako AI ne razume šta onaj koga on služi stvarno hoće, onda i ne može da bude dobar "saradnik". Pa imamo skoro nerešivu dilemu.
 
Poslednja izmena:
Najveća ironija od svega je što GPT njesra ne bi danas ni postojalo da nije bilo piraterije. Jer je 90% programera u nekom trenutku na ovaj ili onaj način koristilo piratizovane softvere, bilo delimično bilo potpuno. Ali licemerni krstaši u pohodu na pirateriju iz Gugla, Microsofta, Applea, pa i OpenAI... to nikada neće smeti da priznaju.
 
www.b92.net

Slavni naučnik: "Ne znam da li čovečanstvo može da preživi ovo otkriće. Očekuje nas katastrofa"

"Ovo je prva tehnologija u istoriji koja stvara priče", kaže Juval Harari, izraelska intelektualna superzvezda, a piše ugledni britanski Telegraph. Misli, naravno, na veštačku inteligenciju.
www.b92.net www.b92.net

"Moramo shvatiti da je AI prva tehnologija u istoriji koja može sama da donosi odluke. Može donositi odluke o vlastitom korišćenju. Takođe može donositi odluke o vama i meni. Ovo nije predviđanje budućnosti. Ovo se već događa."
 
Zuma je napisao(la):
istakao da je veoma opasno učiti nekoga potencijalno inteligentnijeg od nas da laže
Kliknite za proširenje...
Chat GPT već laže. Tražio sam od njega da mi izbaci linkove, proizvođače, za neko ulje koje se teško nalazi. Izbacio mi je 30 linkova i svi su bili pogrešni!! Ja ga pitam šta to radiš kume, kaže on: izvini, to su sigurno zastareli podaci, evo ti ispravan link i opet mi da pogrešan link. Mojoj drugarici je dao pogrešnu referencu, knjigu koja ne postoji, onda ispravio i dao pravu knjigu ali sa pogrešnom godinom i izdavačem.. Tako da, informacije sa Chat GPT su vrlo, vrlo, vrlo podložne proveri. Ne može da služi umesto Binga ili Googleta.. To je ionako chatbot, za uopšteno trkeljisanje.
 
MI ljudi fascinirani smo kad neka kutija razgovara sa nama.
Zato sto smo bedni, infatntilni, usamljeni, podlozni magijskom razmisljanju. Svejedno.
Chat botovi su fascinantni.
Cini nam se da nas ChatGot razume.
Voleli bi smo da imamo mudrog slugu koji ce odgovoriti na nasa pitanja. Ali sta ako nemamo pitanja osim kako da promenimo ulje u rezervoarau i gde jeftino letovati.
Ne treba nama filozofija.

Chat Gpt je samo sofisticirani pretrazivac interneta.
Njegova snaga nije uopste u odgovorima nego u analizi onoga sto pitamo.
Chat Gpt nam nece naci druge odgovore osim onih koji se mogu naci na googl-u koji svoja pretrazivanja inace cenzurise.
 
Ovo je apsurdno redukovan pogled na čovečanstvo i na to šta znači biti čovek.

Mi ne želimo da budemo sami. Tu je ključ ove priče. Biološki smo progamirani da živimo u grupi jer smo i postali ljudi, inteligentna bića, pa u surovom svetu OPSTALI, samo zato što smo naučili da sarađujemo i delujemo zajedno, kao celina koja može više nego skup pojedinaca. Zbog toga je grupni identitet svakoga od nas ponekad skoro isto toliko važan kao i lični identitet. Ja sam ... šta? Deo čega? Nije slučajno čitava kultura puna priča o tome kako je prava radost vredna samo onda kad može da se podeli sa nekim. Pa onda imamo glorifikaciju ljubavi kao vrhunske vrednosti, recimo u hrišćanstvu, gde je to čak i suština čitavog vrednosnog sistema, čitave teologije. Voleti nekog drugog, a ne samo sebe. Ko to može, Bog ga nagrađuje jer je nalik Bogu, deo njegove prave suštine, duha, tj u pitanju je neki kolektivistički entitet. Drugim rečima, taj nesebični odnos sa drugim, zajedništvo, je sama suština univerzuma. Pravoslavlje ima i reč za nešto slično, "sabornost", a katolici "katoličnost". Akcenat je na grupi i STVARNOJ ljubavi prema mnoštvu koje sarađuje i ispomaže se. Stvarnoj, ne koristoljubivoj, tj ne zato što neko od toga ima koristi, nego zato što je dobro samo "po sebi". To je dakle podignuto na viši nivo, vrednosni, ne utilitarni. A hrišćanstvo je sve to samo preuzelo od drugih. Recimo, imate Grčki mit o Pigmalionu, vajaru, koji je toliko žudeo da stvori savršenstvo u obliku kipa, da ga je Afrodita nagradila podrivši život kipu savršene žene koju je stvorio. Pigmailon i Galateja su od tada živeli zajedno i imali dete koje je postalo predak kraljevske dinastije jednog grada na Kritu. U nizu beskrajnih varjacija teme može se spomenuti i Frankeštajn Meri Šeli, koji u originalu ima sasvim drugačiju poruku nego što mislte, tj stvoreno biće uopšte nije monstrum, nego je ustvari moralnije od ljudi koji ga se plaše samo zbog njegovog porekla i zastrašujuće spoljašnjosti. Tj ljudi ne pokušavaju da shvate njegovu suštinu, šta je u njemu, važna im je samo forma, spoljašnjost. Ili recimo moderni Ekološki pokret koji je postao čitava sveobuhvatna filozofija koja tvrdi da možemo živeti i opstati SAMO ako napustimo ideju da VLADAMO svim drugim bićima. Dakle spas se krije samo u prihvatanju da smo samo DEO jednog većeg sistema, gde su i sva druga bića jednako važna, ravnopravna (čak i ne moraju biti inteligentna), a ne da smo MI najvažniji, kraljevi na vrhu piramide potčinjenih robova. To je prazno fantaziranje slabih, nešto što direktno vodi u propast zbog ignorisanja elementarne istine da je sve oko nas, čitav univerzum, uvek neki međuzavistan SISTEM odnosa, a ne skup nezavisnih i usamljenih aktera koji apsolutistički odlučuju sami. Ovo poslednje je neopravdana težnja za uprošćavanjem, nevoljnost da se misli, tj redukcionizam neukih i isključivo emotivno, a ne razumsko razmišljanje. Itd, nadam se da vidite šablon i vezu sa AI.

Kod ljudi koji stvari gledju malo dublje uzbuna i strah zbog razvoja AI su isključiva posledica mogućnosti da će se AI prema nama odnositi isto onako kako smo se mi do sada odnosili prema drugim bićima sa kojima delimo Zemlju. Kao prema robovima. A ne zbog toga što možda mogu biti inteligentniji, ili što više nećemo biti sami. Ne baš laskavi pogled u ogledalo. Pardoksalno, smatramo da je najgore po nas ako se pojavi još neko isti takav, a istovremeno, da ipak treba da budemo na vrhu kao najvredniji? To baš ne ide zajedno ako se i dalje tvrdi da je vrlina vrhunska vrednost. Onda se čitava etika raspada kao nekonzistentna. Pa je je možda pravi trenutak za izvesno preispitivanje? Uzevši u obzir da nam je Majka Priroda poslala i druga upozorenja: Klimatske promene, zagađenje, drastično ubrzani nestanak biosfere od koje zavisimo, rat i raspad međunarodnog sistema pravila baš u trenutku kad su alati za globalnu destrukciju postali toliko moćni ... Treći put dobijamo crveni karton? Pa možda AI treba videti i kao mogućnost? Kao možda poslednju realnu priliku da se dosta toga promeni? Opasnost je očigledna, ali to nije jedino što je ovde važno.

Pigmalion i Galateja

Pygmalion_%26_Galatea_%28Louis_Gauffier%29.jpg
 
Poslednja izmena:
Jel neko već postavljao ovaj (jako dobar) članak o veštačkoj inteligenciji?

www.theguardian.com

The stupidity of AI

The long read: Artificial intelligence in its current form is based on the wholesale appropriation of existing culture, and the notion that it is actually intelligent could be actively dangerous
www.theguardian.com www.theguardian.com
 
Mlitavo odrađen film, ali ima odličnu poentu. I odlično prikazuje bolesne mentalitete, patologije i kultove koji se neguju u kompanijama kao što su Google, Facebook, Apple i slično.

P.S.
Legendarni Don't look up je isto odlično objasnio takve entitete i njihove patologije (između ostalog).
 
Novi demo Boston Dynamcs-a. Njihov "Atlas" je sada savladao veštinu nošenja znatnog tereta. Inače, njihov CEO je izjavio da im kretanje robota uglavnom više nije problem. Do sada su pokušavali da dostignu ono što mogu ljudi. Sledeća generacija Atlasa će moći ono što ljudi ne mogu.

 
Ja jedva cekam optimus. 20k. Nadam se da ce biti povezan sa ChatGPT 6.0 i pluginovima.
Kazes mu lepo idi radi u basti i dok ne padnes ne vracaj se.
 
Iako ovde imam reputaciju ludaka, ludiste i pesimiste (što na kraju krajeva i nije daleko od istine... :unsure: ) moja prva pomisao kad sam video ovaj snimak bila je: ''ovo će jednog dana biti sjajno i korisno za građevinarstvo''. Druga pomisao bila je da će biti sjajno i za poljoprivredu.

Ali treća pomisao mi je bila ''šta kada neko napravi, ili preradi neku od ovakvih mašina, za kriminalne ili nasilne i destruktivne svrhe?''
A samo jedna Amerika je prepuna psihopata ispod radara koji, možda danas ne znaju da hakerišu i programiraju, ali znaće za par godina i poželeće da naprave novi Columbine, samo varijantu sa robotom kao ubicom umesto čoveka. A da ne pričam o ostatku sveta i ostalim ljudima koji će imati neke slične zle namere, npr da koriste ovako nešto za provale ili kriminalne obračune (npr karteli). Ili prosto za okršaje sa policijom, jer ima i onih koji ne žele finansijsku dobit, nego samo osvetu društvu ili policiji.

Sve u svemu, bilo da tehnologija ode u pozitivnom, negativnom ili neutralnom smeru (i pozitivno i negativno), mislim da u svakom slučaju čovečanstvo neće stići da isprati toliko brze i nagle promene, koje će se dešavati sve brže i brže i sve haotičnije i sve čudnije, kako tehnologija i mašine budu eksponencijalno rasle. Ljudski mozak, a i ljudski kolektiv, već ne stižu da isprate sve promene a tek u narednim decenijama neće moći uopšte. Kako će to na kraju ispasti, ko će ga znati. Ali ne očekujem da pozitivne posledice i promene budu brojnije i veće nego negativne. Štaviše, biće sreća ako uopšte ostane negde oko neutrale, odnosno ako ostanu u nekom približnom odnosu.
 
Tvoja zabrinutost je svuda a ne samo kod tebe. Mislim da je kod vecine zdravorazumnih ta zabrinutost prisutna.

Mozemo samo da se nadamo da to nece imati lose posledice u tolikoj meri ili da bude slicno kao sto je sa smartphone-ovima. Kao sto si pre 30-40 godina mogao da kazes uf ako svi budu imali smartphone u dzepu moci ce kriminalne grupe da imaju svoje kanale da se lakse i brze dogovaraju. Takodje mogao si da kazes uf znaci neko ce sve zivo znati o nama. Ipak danas veliki broj ljudi koristi smart telefone jer je ono sto dobijamo vece nego posledice.
Slicno mislim da ce biti i sa AI. Da ce korist biti veca od posledica. Naravno ostaje da vidimo :)

Takodje mislim da nema nazad. Jednostavno cak i da neke drzave zaustave razvoj i zabrane neke drzave nece hteti. Ostaje samo da se prilagodimo.
 
Morate se prijaviti ili registrovati da odgovorite ovde.
Vrh