Társadalmi folyamatok

[haubagoi]

Itt nagyon elmosódik nálad egy jó és öszetett program és egy mesterséges inteligencia közötti vonal. Ha tényleg ilyen skynetes csodaszoftra gondolsz, akkor az biza tudattal kell rendelkezzen, akkor meg célja is van. Hanem csak egy megfigyelőszoft, ami mindent néz.
Ez az automatizált dróngyár meg elég messze van. Az ilyen termékeknél akkora a gyártósor, hogy mire az felrepül, hogy bárhol egy kis hiba leaállítja az egészet, még csak fel sem kell robbantsa valaki a gyárat. Elég ha a futószalagon egy darab eldöl és leáll a gyártás miatta. De ezenkívül lehet áramszünet, szabotázs, ki-be rakodás, alkatrész- és alapanyag ellátás, drónok tankolása, fegyver máshol készül hozza, ezek szállítása, rakodása, drónra felszerelése, megtankolás, kifutópálya karbantartás, stb. És csak egy homokszem kell a rendszerbe, valószínűleg az egészet megakasztja kicsit vagy nagyon. És most megint ott vagyunk, hogy amikor már magát védi akkor azt tudatosan teszi, akkor meg célja van. És ez az egyetlen célja, hogy magát védje? Akkor meg ellehetne egy szerveren valahol, akárhol, senkit nem basztatva és senki által nem visszabasztatva.

Az MI-nek céljai vannak, de tudata nincs.
A cél gyakran pl. egy vagy több célfüggvény, bizonyos paraméterek alapján egy kiszámított számszerű eredmény maximalizálása pl.
Az MI abban rugalmas, hogy ezt a célt hogyan maximalizálja.
Tudata nincs és nem is lehet, mert gép.
Az automatizált dróngyár még messze van, de azért említettem meg, mert ezen a ponton veszítheti el felette az ember a kontrollt. (Gondoljunk pl. a vírusokra, mi bennük az alapvetően veszélyes? az, hogy elképesztő sebességgel tudnak szaporodni)
Mondod, hogy elég, hogy csak egy homokszem kerüljön a gépezetbe, megakadszthatja az egészet. Nos, ez az, ahová az MI mindent optimalizáló képessége előnyös, elképesztő számú kombinációit fogja tudni kivédeni az ellene készülő szabotázsnak (kezdetleges formája pl. network intrusion detection) .
Az, hogy magát védje, nem kell, hogy tudatos célja legyen. Az önvédelem csak egy szabály:

IF térfigyelő kamera támadás alatt THEN küldj fegyveres drónt és likvidáld a támadót.

Ehhez nem kell tudat. GPS van a célkoordinátákhoz, hogy hová kell küldeni a drónt, meg van arcfelismerő rendszer is. Értelemszerűen maga a kamera képes látni és felismerni a támadóját, tehát a drón ez alapján próbálhatja beazonosítani. Ha meg van bőr alá ültetett chip is, akkor még egyszerűbb az egész.
Ez egyszerű automatika. Nem kell hozzá tudat.

"És ez az egyetlen célja, hogy magát védje? Akkor meg ellehetne egy szerveren valahol, akárhol, senkit nem basztatva és senki által nem visszabasztatva."

Ez alapján számomra az derül ki, hogy semmit nem értettél meg az írásomból. Nem az az egyetlen célja, hogy önmagát védje, hanem az a célja, hogy az őt létrehozó emberi elitet védje.
Az elit védelme két módon történik 1) a saját társadalom kontrollja 2) az ellenséges társadalmak/emberek automata megsemmisítése.
Az önvezető autó például az 1)-es kategóriába tartozik, a saját társadalom kontrollja alá. Mert az önvezető autó nem feltétlenül oda megy, ahová te akarod. Régen az autó még a szabadság jelképe volt: oda mehettél vele, ahová te akartál. Az önvezető autókkal ennek lesz vége.
Oda megy, ahová akarod - kivéve, ha kívülről más parancsot nem kap...

 

[joker]

Az MI-nek céljai vannak, de tudata nincs.
A cél gyakran pl. egy vagy több célfüggvény, bizonyos paraméterek alapján egy kiszámított számszerű eredmény maximalizálása pl.
Az MI abban rugalmas, hogy ezt a célt hogyan maximalizálja.
Tudata nincs és nem is lehet, mert gép.
Az automatizált dróngyár még messze van, de azért említettem meg, mert ezen a ponton veszítheti el felette az ember a kontrollt. (Gondoljunk pl. a vírusokra, mi bennük az alapvetően veszélyes? az, hogy elképesztő sebességgel tudnak szaporodni)
Mondod, hogy elég, hogy csak egy homokszem kerüljön a gépezetbe, megakadszthatja az egészet. Nos, ez az, ahová az MI mindent optimalizáló képessége előnyös, elképesztő számú kombinációit fogja tudni kivédeni az ellene készülő szabotázsnak (kezdetleges formája pl. network intrusion detection) .
Az, hogy magát védje, nem kell, hogy tudatos célja legyen. Az önvédelem csak egy szabály:

IF térfigyelő kamera támadás alatt THEN küldj fegyveres drónt és likvidáld a támadót.

Ehhez nem kell tudat. GPS van a célkoordinátákhoz, hogy hová kell küldeni a drónt, meg van arcfelismerő rendszer is. Értelemszerűen maga a kamera képes látni és felismerni a támadóját, tehát a drón ez alapján próbálhatja beazonosítani. Ha meg van bőr alá ültetett chip is, akkor még egyszerűbb az egész.
Ez egyszerű automatika. Nem kell hozzá tudat.

"És ez az egyetlen célja, hogy magát védje? Akkor meg ellehetne egy szerveren valahol, akárhol, senkit nem basztatva és senki által nem visszabasztatva."

Ez alapján számomra az derül ki, hogy semmit nem értettél meg az írásomból. Nem az az egyetlen célja, hogy önmagát védje, hanem az a célja, hogy az őt létrehozó emberi elitet védje.
Az elit védelme két módon történik 1) a saját társadalom kontrollja 2) az ellenséges társadalmak/emberek automata megsemmisítése.
Az önvezető autó például az 1)-es kategóriába tartozik, a saját társadalom kontrollja alá. Mert az önvezető autó nem feltétlenül oda megy, ahová te akarod. Régen az autó még a szabadság jelképe volt: oda mehettél vele, ahová te akartál. Az önvezető autókkal ennek lesz vége.
Oda megy, ahová akarod - kivéve, ha kívülről más parancsot nem kap...

Ha nincs tudata, akkor célja sem lehet. A célhoz tudat kell, anélkül meg csak feladata van. Minden szarságot meg lemodellezni nem tudsz. És nem csak szabotázsról van szó, elég ha nem tartják karban a gépeket, nem rakodják ki az alkatrészeket, nem cserélik ki a CNC-ben a marófej késeit, defektet kap az egyik autómata szállító kamion és nincs aki kicserélje a kerekeit, robbantják a gyárat amelyik a rakétát gyártja a drónodhoz vagy amelyik a processzorokat, vezérlőelekrónikát vagy a szárnyakhoz a szénszálat készíti, bulldózerrel valaki kinyomja a tízezer villanyoszlop egyikét amin jön az áram a gyárhoz, nem cserélik ki a fűtőelemet a reaktorban, hogy álljon le és nem kapjon áramot a dróngyár, stb. Annyi lehetőség van, hogy nincs az a számítási kapacitás az egész bolygón, ami annak csak egy milliomod részét képes valós időben lemodellezni.

 

[haubagoi]

Ha nincs tudata, akkor célja sem lehet. A célhoz tudat kell, anélkül meg csak feladata van. Minden szarságot meg lemodellezni nem tudsz. És nem csak szabotázsról van szó, elég ha nem tartják karban a gépeket, nem rakodják ki az alkatrészeket, nem cserélik ki a CNC-ben a marófej késeit, defektet kap az egyik autómata szállító kamion és nincs aki kicserélje a kerekeit, robbantják a gyárat amelyik a rakétát gyártja a drónodhoz vagy amelyik a processzorokat, vezérlőelekrónikát vagy a szárnyakhoz a szénszálat készíti, bulldózerrel valaki kinyomja a tízezer villanyoszlop egyikét amin jön az áram a gyárhoz, nem cserélik ki a fűtőelemet a reaktorban, hogy álljon le és nem kapjon áramot a dróngyár, stb. Annyi lehetőség van, hogy nincs az a számítási kapacitás az egész bolygón, ami annak csak egy milliomod részét képes valós időben lemodellezni.

A célra ne úgy gondolj mint valami magasztos dologra az emberek esetében.
A cél egy vagy több FÜGGVÉNY, a MATEMATIKAI értelemben. f(x,y,z) -> eredmény. A cél ennyi: MAX(f(x,y,z)).
Az a cselekvés a jó cselekvés, amely mellett x, y, és z paraméterekből kiszámítva f(x,y,z) MAXIMÁLIS.
A célfüggvény mindig adott, ezt az MI nem tudja megváltoztatni.
Az emberek esetén is van néhány célfüggvény, mindjárt írok is ezekről.
Az MI a szakirányom, csak szólok...

 

[joker]

Akkor az nem cél csak feladat.

 

[haubagoi]

Az emberek esetén a következők a célfüggvények (saját szerkesztés):

1. önvédelem
2. önfenntartás
3. fajfenntartás, szex
4. hatalom iránti vágy
5. elismerés iránti vágy
6. türelmetlenség

Ezek a legfelsőbb célok, nem igazán lehetséges olyan emberi célt kitalálni, amely ezen kategóriákba ne lenne besorolható.

Példák:

1. önvédelem: nem nyúlunk bele a tűzbe, nem megyük a falnak, nem esünk le magasról (fájdalom elkerülése) ill. támadó elleni védekezés
2. önfenntartás: éhség, szomjúság stb.
3. nem kell magyarázni...

Akkor az nem cél csak feladat.

Az MI-ben célnak hívják. Ez a szakkifejezés.

 

[haubagoi]

Vagy egyéb példák:

pl. tudósok kutatómunkája: az 5) elismerés iránti vágy és 4) hatalom iránti vágy is.
pl. szentek, papok, önzetlen emberek: 5) elismerés iránti vágy (mások szimpátiájának kivívása)

a türelmetlenség picit magyarázatra szorul. A célja az, hogy ne kerüljünk végtelen ciklusba ne fagyjunk le egy adott probléma megoldásakor. Ha valamely helyzet sokáig változatlan, és nem kielégítő, akkor az ember a természete szerint ideges, türelmetlen lesz, és úgy próbál kilépni a lehetetlen helyzetből, hogy átvágja, esetenként lerombolja azt.

 

[joker]

Függetlenűl minek hívod, az akkoris csak egy feladat. A célhoz tudat kell, szóval amíg nem lesz egy tudatra ébredő "skyneted" addig célja sem lesz a mesterséges inteligenciának.

 

[haubagoi]

Namármost, ha megvannak a célok, akkor jöhet az intelligencia. Akár természetes, akár mesterséges, az intelligencia feladata, hogy ezeket a célfüggvényeket maximalizálja.
Ennek módja, hogy cselekvések olyan sorozatát választja, amely ezen célfüggvények - várható - maximalizálásához vezetnek.

Mit is jelent ez a gyakorlatban?

1) önvédelem: elkapom a kezem a tűztől
2) önfenntartás: ha szomjas vagyok, olyan cselekvést választok, hogy inni tudjak, és a szomjúságérzetem csökkenjen (ez negatív célfüggvény, célja a szomjúságérzet minimalizálása)
3) minél több szex...
4) a hatalom tulajdonképp nem más, mint a cselekvési szabadság maximalizálása, minél több feltételt én szabhassak meg, mert ezáltal bővül a cselekvések köre, amelyek közül válaszhatok az optimalizáció során
5) az elismerés célja a hasonló emberi egyedek együttműködésének, kooperációjának elérése, hiszen együtt többre megyünk mint egyedül
6) már említettem, a helyzet szétrombolása, ha hosszú időn át nem jutok értelmes megoldásra

és kb. ennyi. Az emberek ezeknek megfelelően alkotnak napi/heti/havi stb. terveket, akár tudatosan, akár tudat alatt, akár érzelmektől fűtve, amelyek alapján kiválasztják azokat a cselekvéseket, amelyek a világot olyan állapotba igyekeznek hozni, hogy a fent felsorolt célok szerinti célfüggvények maximálisak ill. esetenként minimálisak (pl. fájdalom) legyenek.

A gépi világban ez ugyanígy vagy. Kívülről adottak (!) a célfüggvények, az MI logikája "mindössze" abban erős, hogy rengeteg lehetséges cselekvés-sorozatot és annak hatásait tudja megvizsgálni, többet mint az ember.

De a gépnek nincsenek érzelmei, és nincsen tudata. Matematika által vezérelve működik.

 

[haubagoi]

Függetlenűl minek hívod, az akkoris csak egy feladat. A célhoz tudat kell, szóval amíg nem lesz egy tudatra ébredő "skyneted" addig célja sem lesz a mesterséges inteligenciának.

Hát ha te mondod... az ilyen kinyilatkoztatás szerű magabiztossággal nem tudok mit kezdeni. Már mondtam, hogy nem kell hozzá tudat. A cél egy rohadt matematikai függvény, mit nem lehet ezen megérteni?

 

[haubagoi]

Joker -

ajánlom neked az alábbi könyvet, mert a bölcsészek romantikus magabiztosságával kezeled a témát, amikor pl. a célról meg a tudatról beszélsz.
Tanulj, informálódj, és aztán rájössz, hogy az MI nem más mint matematika.

 

[joker]

Az egy feladat, nem cél, de tökmindegy. Amúgyis túl nagy hipe van az MI körül, kb bármelyik kódra rá lehet így fogni, hogy MI mert végülis csinál valamit előre megadott paraméterek szerint. De ettől még nem gondolkozik, az inteligencia meg azt jelenti, még ha mesterséges is.

 

[haubagoi]

Az egy feladat, nem cél, de tökmindegy. Amúgyis túl nagy hipe van az MI körül, kb bármelyik kódra rá lehet így fogni, hogy MI mert végülis csinál valamit előre megadott paraméterek szerint. De ettől még nem gondolkozik, az inteligencia meg azt jelenti, még ha mesterséges is.

Nananana... azért bármely kódra nem lehet ráfogni, hogy MI. A különbségtétel baromi egyszerű:

1) ha a problémára írsz egy azt megoldó algoritmust, akkor az nem MI
2) ha olyan algoritmust írsz, amely az önmaga korlátain belül megkeresi egy adott probléma megoldását, akkor az MI

A lényeg az, hogy az 1) esetben maga a programozó tudja, ismeri a probléma megoldását, és azt implementálja programban.
A 2) esetben viszont maga a programozó sem ismeri a probléma megoldását, de tud írni olyan kódot, amely megkeresi a megoldást. Ezt az MI.

Sőt, gyakran előfordul, hogy 2) módon keresik meg egy probléma megoldását, aztán azt implementálják le fixen 1) szerint.

 

[2ndt]

Joker, semmi kulonbseg cel es feladat kozott.

 

[joker]

Joker, semmi kulonbseg cel es feladat kozott.

A célom az, hogy meggazdagodjak, a feladatom meg az, hogy a főnökömet tegyem még gazdagabbá. Kurvanagy különbség van a kettő között. Az egyik magadtól indul, a másikor meg adják neked.

 

[2ndt]

A célom az, hogy meggazdagodjak, a feladatom meg az, hogy a főnökömet tegyem még gazdagabbá. Kurvanagy különbség van a kettő között. Az egyik magadtól indul, a másikor meg adják neked.

Semmi kulonbseg nincs haubagoi ertelmezeseben; a meggazdagodas nem cel, hanem eszkoz, csak adott feltetelek mellett ertelmezheto. Ennek az eszkoznek a megszerzese egy feladatnak tekintheto az olyan gyarilag beepitett feladatok hatekonyabb eleresehez mint a szaporodas, onfenntartas, kozosseg elismerese, stb.

A gazdagsag vonatkoztatasi/ertelmezesi rendszer nelkul ertelmetlenseg, nem cel.

 

[haubagoi]

Semmi kulonbseg nincs haubagoi ertelmezeseben; a meggazdagodas nem cel, hanem eszkoz, csak adott feltetelek mellett ertelmezheto. Ennek az eszkoznek a megszerzese egy feladatnak tekintheto az olyan gyarilag beepitett feladatok hatekonyabb eleresehez mint a szaporodas, onfenntartas, kozosseg elismerese, stb.

A gazdagsag vonatkoztatasi/ertelmezesi rendszer nelkul ertelmetlenseg, nem cel.

És ez a lényeg: hogy gyárilag beépített célokról van szó.
Akármilyen intelligens is az MI, csak és kizárólag a gyárilag beépített célok szerint fog működni (esetenként nem várt következményekkel!).
Az MI-be a célokat az emberek építik be, tehát az MI azok érdekeit fogja szolgálni, akik a célok beépítését végzik az MI-be; és ez a fontos BIZTPOL szempontból, mert itt derül ki, hogy kiket és milyen célból fog szolgálni az MI.
Az emberek esetében pedig a "gyárilag beépített célokat" úgy hívják, hogy az emberi természet. A célok beépítőjét pedig az ember esetében úgy hívják, hogy: Isten.

 

[2ndt]

És ez a lényeg: hogy gyárilag beépített célokról van szó.
Akármilyen intelligens is az MI, csak és kizárólag a gyárilag beépített célok szerint fog működni (esetenként nem várt következményekkel!).
Az MI-be a célokat az emberek építik be, tehát az MI azok érdekeit fogja szolgálni, akik a célok beépítését végzik az MI-be; és ez a fontos BIZTPOL szempontból, mert itt derül ki, hogy kiket és milyen célból fog szolgálni az MI.
Az emberek esetében pedig a "gyárilag beépített célokat" úgy hívják, hogy az emberi természet. A célok beépítőjét pedig az ember esetében úgy hívják, hogy: Isten.

Istent ne keverjuk ide

Az emberek eseteben a "beepitett" celok eleg jol dokumentaltak es biologiailag/evolucios szempontbol indokoltak, alapszinten legalabbis (Maslow).
Amit MI tekinteteben lehet feszegetni, az egyreszt az, hogy ki milyen celokat ad neki, masreszt az, hogy kepes lehet-e ezeket a celokat ujraertelmezni/felulirni, illetve az, hogy rendelkezhet-e entudattal (illetve ehhez kothetoen egyeb faktorokkal).

Veszelyt akkor jelenthet, ha kepes felulirni a sajat (betaplalt) szempontjait a hatekonysag erdekeben onalloan (tehat nem csak javaslatot tehet), ismert "joindulatu" pelda Asimov bolygot iranyito agyai.

 

[haubagoi]

...
Veszelyt akkor jelenthet, ha kepes felulirni a sajat (betaplalt) szempontjait a hatekonysag erdekeben onalloan (tehat nem csak javaslatot tehet), ismert "joindulatu" pelda Asimov bolygot iranyito agyai.

Ebben a "ha képes felülírni" a céljait dologban a következő ellentmondást látom: milyen céloktól vezéreltetve írná felül a céljait?
Ez amolyan fából vaskarika, hacsak nincs olyan célja, hogy időnként írja felül a saját céljait, miért is tenné? És mivel írná felül, mi határozná meg az új célt, hogy értelmes legyen?
Amikor azt, hogy mi az értelmes, a hatékony, éppen a jelenlegi céljai határozzák meg (értelmes az, ami a céljaim eléséhez vezet, hatékony pedig az, amely hatékonyan vezet a céljaim eléréséhez).
Szerintem vagy nem lehetséges a legfelsőbb célok felülírása, vagy ha (technikailag) mégis az, akkor az működésképtelen rendszerhez vezet.
Nem véletlen, hogy az emberek sem tudják lényegében felülírni a saját természetüket.

 

[haubagoi]

Én nem a célok felülírásában, hanem inkább abban látom a veszélyt, hogy az MI-be beépített céloknak nem várt következményei lesznek. Céloknak megfelelő, de a célokat kellőképpen át nem gondoló tervező által előre nem látott következményei.
Klasszikus tankönyvi példa az intelligens porszívó robot, ahol a célfüggvény az, hogy maximalizálja a feltakarított kosz mennyiségét, miközben a legkevesebb energiát használja fel.
Nyilván a célt megalkotó tervező arra gondolt, hogy a szobában a szőnyeget hatékonyan járja be, és ott takarítson többet, ahol több kosz van, ne ott járkáljon, ahol minden tiszta.
A nem várt következmény például az alábbi: ha a porszívó képes összekoszolni a szőnyeget, pl. azzal, hogy lelök egy virágcserepet az asztalról majd feltakarítja a kiszóródott virágföldet (!) stb. akkor a célfüggvénye alapján növelte a feltakarított kosz mennyiségét, holott a porszívó tervezője nyilván nem arra gondolt, amikor ezt a szabályt megalkotta, hogy a porszívó maga koszolja össze a szőnyeget, hogy így több koszt tudjon feltakarítani.
Nyilván ezt egy egyszerű mese-példa, de szemlélteti, milyen nem várt következményekről lehet szó.
Pl. az általam legelőször felhozott "Skynet" típusú elitet védő rendszernél egy ilyen nem várt következmény lehet, hogy a "Skynet" arra a következtetésre jut, hogy az mivel emberek 99%-a őt támadja, tehát minden ember rossz (általánosít) és végül minden emberrel felveszi a harcot, beleértve az őt létrehozó elitet is.

 

[2ndt]

Ebben a "ha képes felülírni" a céljait dologban a következő ellentmondást látom: milyen céloktól vezéreltetve írná felül a céljait?
Ez amolyan fából vaskarika, hacsak nincs olyan célja, hogy időnként írja felül a saját céljait, miért is tenné? És mivel írná felül, mi határozná meg az új célt, hogy értelmes legyen?
Amikor azt, hogy mi az értelmes, a hatékony, éppen a jelenlegi céljai határozzák meg (értelmes az, ami a céljaim eléséhez vezet, hatékony pedig az, amely hatékonyan vezet a céljaim eléréséhez).
Szerintem vagy nem lehetséges a legfelsőbb célok felülírása, vagy ha (technikailag) mégis az, akkor az működésképtelen rendszerhez vezet.
Nem véletlen, hogy az emberek sem tudják lényegében felülírni a saját természetüket.

Nincs ebben fabol vaskarika; a beerkezo informaciok minosegenek es mennyisegenek illetve a sajat tudasunk (fejlodesunk) fuggvenyeben adott problemara kulonbozo valaszt adhatunk.

Ez embereknel abszolut ervenyes; gepi tanulas/MI eseteben detto parameterezheto (mintakereses). Amennyiben az MI rendelkezik a tanulashoz szukseges kepessegekkel (onfejlesztes) es "korlatlan" szenzoros inputtal (vagyis kepes az adatokhoz korlatozas nelkul hozzaferni), meg tudja valtoztatni a feladat vegrehajtasahoz szukseges mukodest.

Amennyiben a rendszerbe bele van programozva a hatekonysag novelese, az eszkozok kozott rangsorolhat/valaszthat.
Ne keveredj te is bele a cel/feladat kozti kulonbsegtetelbe.