Iarradh ar chuideachtaí faisnéise saorga na ríomhanna sábháilteachta a mhacasamhlú a bhí mar bhonn agus mar thaca ag an gcéad tástáil núicléach le Robert Oppenheimer sula scaoileann siad córais uile-chumhachtach.
Dúirt Max Tegmark, guth ceannródaíoch i sábháilteacht AI, go ndearna sé ríomhaireachtaí cosúil le ríomhaireoir na Stát Aontaithe Arthur Compton roimh thástáil na Tríonóide agus go raibh dóchúlacht 90% ann go mbeadh bagairt mhór ag AI an -ard.
Chuaigh rialtas na Stát Aontaithe ar aghaidh le Coláiste na Tríonóide i 1945, tar éis a bheith suaimhneach go raibh seans beag ann go mbeadh buama adamhach ag adhaint an atmaisféir agus ag cur na daonnachta i mbaol.
I a Páipéar a d’fhoilsigh Tegmark agus triúr dá chuid mac léinn Ag Institiúid Teicneolaíochta Massachusetts (MIT), molann siad an “Compton Constant” a ríomh-a shainmhínítear sa pháipéar mar an dóchúlacht go n-éalaíonn AI uile-chumhachtach rialú an duine. In agallamh i 1959 leis an scríbhneoir Pearl Buck, dúirt Compton, gur cheadaigh sé an tástáil tar éis dó na corrlaigh a bhaineann le himoibriú comhleá a bhí ag rith a ríomh le bheith “beagán níos lú” ná ceann as gach trí mhilliún.
Dúirt Tegmark gur chóir do ghnólachtaí AI freagracht a ghlacadh as a ríomh go dian cibé acu an mbeidh Super Faisnéis Saorga (ASI) – téarma do chóras teoiriciúil atá níos fearr ná faisnéis dhaonna i ngach gné – ag seachaint rialú an duine.
“Ní mór do na cuideachtaí atá ag tógáil Super-Intelligence an tairiseach Compton a ríomh freisin, an dóchúlacht go gcaillfimid smacht air,” a dúirt sé. “Ní leor é a rá go mbraitheann muid go maith air.
Dúirt Tegmark go gcruthódh comhdhearcadh leanúnach Compton arna ríomh ag ilchuideachtaí an “toil pholaitiúil” chun córais sábháilteachta domhanda a chomhaontú do AIS.
Tá Tegmark, ollamh le taighdeoir fisice agus AI ag MIT, ina chomhbhunaitheoir ar an Institiúid Todhchaí Saoil, neamhbhrabúis a thacaíonn le forbairt shábháilte AI agus a d’fhoilsigh litir oscailte in 2023 ag iarraidh sos i dtógáil AIs cumhachtach. Shínigh níos mó ná 33,000 duine an litir lena n-áirítear Elon Musk-a thacaigh go luath leis an Institiúid-agus Steve Wozniak, comhbhunaitheoir Apple.
Thug an litir, a táirgeadh míonna tar éis do Chatgpt a scaoileadh ré nua d’fhorbairt AI, rabhadh a thabhairt go raibh AI Labs faoi ghlas i “rás lasmuigh den rialú” chun “aigne digiteacha níos cumhachtaí” a imscaradh nach féidir le duine ar bith “a thuiscint, a thuar ná a rialú go hiontaofa”.
Labhair Tegmark leis an Guardian mar ghrúpa saineolaithe AI lena n-áirítear gairmithe tionscail ardteicneolaíochta, ionadaithe ó chomhlachtaí sábháilteachta agus lucht acadúil a bhfuil tacaíocht stáit acu, chuir siad cur chuige nua i bhfeidhm chun AI a fhorbairt go sábháilte.
Is é Tegmark, an t-eolaí ríomhaireachta Yoshua Bengio agus na fostaithe ag príomhchuideachtaí AI ar nós Openai agus Google Deepmind a tháirg an comhaontú Singeapór maidir le Tuarascáil Tosaíochtaí Taighde Sábháilteachta AI Domhanda. Leag sé amach trí réimse leathana chun tús áite a thabhairt do thaighde sábháilteachta AI: modhanna a fhorbairt chun tionchar na gcóras AI reatha agus na todhchaí a thomhas; ag sonrú conas ba chóir do AI é féin a iompar agus córas a dhearadh chun é sin a bhaint amach; agus iompar córais a bhainistiú agus a rialú.
Ag tagairt don tuarascáil, dúirt Tegmark go raibh an argóint maidir le forbairt shábháilte in AI tar éis a bhonn a aisghabháil i ndiaidh an chruinnithe mullaigh rialtais is déanaí i bPáras, nuair a dúirt Leas-Uachtarán na Stát Aontaithe, JD Vance, nach raibh an todhchaí AI “ag dul trí lámh a bhaint amach faoi shábháilteacht”.
Dúirt Tegmark: “Measann sé go bhfuil an ghruaim ó Pháras imithe agus go bhfuil comhoibriú idirnáisiúnta tagtha ar ais.”
