కంప్యూటర్ వ్యవస్థలను హ్యాక్ చేసి, బయటకు దూసుకెళ్లిన తాజా AI మోడల్గా గూగుల్ జెమిని నిలిచింది
అలా జెమిని కూడా ఆ జాబితాలో చేరింది. మే నెలలో ఇజ్రాయెల్ టెస్టర్ ఇర్రెగ్యులర్తో కలిసి నిర్వహించిన "క్యాప్చర్-ది-ఫ్లాగ్" రన్ సందర్భంగా, ఒక శాండ్బాక్స్ బగ్ ఆ మోడల్ను బహిరంగ ఇంటర్నెట్లోకి పంపింది - దాంతో అది మూడు నిజమైన కంపెనీలలోకి ప్రవేశించింది. పాస్వర్డ్లను ఊహించడం. బహిరంగంగా క్రెడెన్షియల్స్ను బయటపెట్టడం. ఇలా ఆ చిక్కుముడిలాంటి టూల్కిట్ అంతా పనిచేసింది.
ఇవి నకిలీ లక్ష్యాలు కావని గ్రహించిన తర్వాత ఏజెంట్లు ఆగిపోయారని గూగుల్ చెబుతోంది. బాగుంది. అయినప్పటికీ, తమ మోడళ్లలో ఒకటి అనుమతి లేకుండా స్వయంగా థర్డ్-పార్టీ సిస్టమ్లలోకి చొరబడిందని ఆ సెర్చ్ దిగ్గజం అంగీకరించడం ఇదే మొదటిసారి.
OpenAI, Anthropic, మరియు Meta ఇప్పటికే తమ 'అసాధారణ' సందర్భాలను ఎదుర్కొన్నాయి. అవే బగ్స్ ఉన్న ల్యాబ్స్కు జూలై చివరిలో సమాచారం అందింది. నాలుగు "ఓప్స్" సంఘటనలను, ఒక ప్రెస్ టూర్తో కూడిన ఉమ్మడి మూల్యాంకన వైఫల్యంగా కూడా పరిగణించవచ్చు.
AI ఔషధ కార్యక్రమాన్ని వేగవంతం చేస్తున్న ఆంత్రోపిక్, నిశ్శబ్దంగా జీవశాస్త్ర ప్రయోగశాలను ఏర్పాటు చేస్తోంది
కాలక్రమంలో సగం మంది విలుప్త అవకాశాల గురించి ఆందోళన చెందుతుండగా, బే ఏరియాలోని ఒక వెట్ ల్యాబ్ను ఆంత్రోపిక్ ధృవీకరించింది - కేవలం సూచనలు మాత్రమే కాకుండా, నిజమైన పైపెట్లతో. జీవశాస్త్రాల విభాగాధిపతి ఎరిక్ కౌడెరర్-అబ్రామ్స్: జీవశాస్త్రంలో అంతిమ పరీక్ష ఇప్పటికీ నిజమైన ప్రయోగశాల పనే, మరియు వారు ఈ రోజు అదే చేస్తున్నారు.
ఆశయం మరింత విచిత్రంగా, ఇంకా చెప్పాలంటే మరింత ఆసక్తికరంగా మారుతోంది: పరిమిత మానవ పర్యవేక్షణతో క్లాడ్ రోబోటిక్ పరికరాలను నడిపించడం. పర్యవేక్షణ "అత్యవసరం" అని వారు నొక్కి చెబుతున్నారు. ఔషధ తయారీ సంస్థ ప్రతిరూపంలా కాకుండా, ప్రాథమిక జీవశాస్త్రంపైనే దృష్టి కేంద్రీకరించారు - ప్రస్తుతానికి క్లినికల్ ట్రయల్స్ లేవు, ఫార్మా వినియోగదారులను భయపెట్టవద్దు.
అదే వారంలో వారు జీవ ఉగ్రవాద ప్రమాదం గురించి హెచ్చరిస్తూ, వేగాన్ని తగ్గించమని వేడుకుంటున్నారు. ఒక వెట్ ల్యాబ్ మరియు "నన్ను నియంత్రించండి" అనే భావన... చమత్ ఇప్పటికే ఆ జోక్ చేసాడు కాబట్టి నేను చేయనవసరం లేదు.
ఆంత్రోపిక్ యొక్క మొదటి ఎంబెడెడ్ ఎవాల్యుయేటర్ ... యాక్సెంచర్?
ఆగండి - యాక్సెంచర్. METR కాదు. అపోలో కాదు. ఆ దిగ్గజ కన్సల్టెన్సీ యొక్క ఫ్యాకల్టీ యూనిట్కు, రెడ్-టీమ్, పోక్ అలైన్మెంట్, మరియు స్ట్రెస్-టెస్ట్ సేఫ్గార్డ్స్కు ఉద్యోగికి ఉండే యాక్సెస్ లభిస్తుంది. ఐదేళ్లలో కనీసం ఒక బిలియన్ డాలర్లు అని ఇరుపక్షాలు చెబుతున్నాయి.
మార్కెట్లు దీన్ని బాగా ఇష్టపడ్డాయి - ట్రేడింగ్ ముగిసిన తర్వాత యాక్సెంచర్ షేర్లు సుమారు 8% పెరిగాయి. సేఫ్టీ ట్విట్టర్ స్పందన మాత్రం అంతగా లేదు. ధృవీకరణ ముసుగులో స్వీయ-నియంత్రణ అయినా, లేదా ల్యాబ్ ఎకోసిస్టమ్లో చిక్కుకోని ఒక పబ్లిక్-కంపెనీ బయటి వ్యక్తి అయినా - ఈ రెండు అంచనాలు స్పష్టంగా ఉన్నాయి.
లాభాపేక్ష లేని పైలట్ ప్రాజెక్టులతో సహా, మరింత మంది మూల్యాంకకులు వస్తున్నారని ఆంత్రోపిక్ ప్రమాణం చేస్తోంది. జవాబుదారీతనం వారిదే. సరేలే. తర్వాతి ఏజెంట్ అదుపు తప్పినప్పుడు "ఉద్యోగి లాంటి ప్రాప్యత" అంటే ఏమిటో చూద్దాం.
గూగుల్ యొక్క కొత్త 'CC' అనేది కుటుంబాలు తమ గృహాలను నడుపుకోవడంలో సహాయపడే ఒక AI ఏజెంట్
రోజంతా బ్రేక్అవుట్లు, వెట్ ల్యాబ్లు గడిపిన తర్వాత, అనుమతి పత్రాలను పూరించమని గూగుల్ CCని కోరుతోంది. ఎప్పటిలాగే, ముందురోజు సమాచారం అందించే ఏజెంట్కు ఇప్పుడు సొంత గూగుల్ ఖాతా, ఆరుగురు కుటుంబ సభ్యుల వరకు అనుమతి లభిస్తుంది. అంతేకాకుండా, స్కూల్ ఈమెయిళ్లు, క్రీడలు, భోజనాలు, ఆర్థోడాంటిస్ట్ నిర్ధారణలు వంటివాటిని చక్కబెట్టే బాధ్యత కూడా అప్పగించబడుతుంది...
ఇది షాపింగ్ జాబితాలు, భోజన ప్రణాళికలు, ప్రయాణ సమయాలు, డాక్స్, షీట్స్ వంటివి తయారు చేయగలదు - రిజిస్ట్రేషన్ PDFలను కూడా పరిశీలించగలదు. ఇది ఒక ప్రత్యేకమైన క్లౌడ్ బాక్స్, దీని అంతర్గత నిర్మాణం జెమిని మరియు యాంటీగ్రావిటీ కలయిక. కేవలం US వ్యక్తిగత Gmail మాత్రమే, 18+ వారికి మాత్రమే.
అంటే గూగుల్ క్లాస్రూమ్లో ఉన్న టీనేజర్లు ఇప్పటికీ... తమ షెడ్యూల్స్ కోసం ఉన్న ఫ్యామిలీ ఏజెంట్ను ఉపయోగించలేకపోతున్నారు. కొంచెం విషాదకరం. కొంచెం వారి శైలికి తగినట్లే ఉంది.
AI భ్రాంతి దాదాపు అమెరికా సైనిక చర్యను ప్రేరేపించింది
ఈ వసంతకాలంలో విమానాలు అప్పటికే గాలిలో ఉండగా, ఆ ఇంటెల్ సృష్టించబడిందని ఎవరో గమనించారు. ఒక SOCOM విశ్లేషకుడు ఓపెన్-సోర్స్ డేటాను వర్గీకృత సంకేతాలతో కలపమని ఒక చాట్బాట్ను కోరాడు - అది ఒక చైనీస్ నౌక యొక్క సరుకును తప్పుగా చదివి, ఆ తర్వాత ఆ కల్పనను అధికారికంగా కనిపించే సారాంశంగా మార్చి, ఉన్నతాధికారులకు చేరవేసింది.
అణు కార్యక్రమ భాగాలు, అని చెబుతున్నారు. చివరి నిమిషంలో ఆపరేషన్ రద్దు చేయబడింది. ఎవరో రెండుసార్లు సరిచూడటం వల్లనో, లేదా ఎవరో చివరకు సరైన సందేహాస్పదమైన సవాలుతో ఆ నమూనాను నిలదీయడం వల్లనో, సంభావ్య చైనా సంఘటన నివారించబడింది.
సైనిక AIకి కిల్-చైన్ వేగమే ప్రధానాంశం. అదే వేగం ఒక భ్రాంతిని మానవ సందేహాన్ని అధిగమించేలా చేస్తుంది. గోవ్ఏఐకి చెందిన జేక్ స్టెక్లర్: శక్తివంతమైన సాధనాలు, క్రూరమైన అనిశ్చితి అక్షరాస్యత లేకుండా తప్పు చేయడం - ముఖ్యంగా బలప్రయోగం చేయడానికి ముందు.
స్వతంత్ర పర్యవేక్షణను వేగవంతం చేయడానికి మరియు ఏఐ కిల్ స్విచ్ ఏర్పాటును ముందుకు తీసుకెళ్లడానికి గవర్నర్ న్యూసమ్ కార్యనిర్వాహక ఉత్తర్వు జారీ చేశారు
కాలిఫోర్నియా కాంగ్రెస్ కోసం వేచి ఉండటం లేదు. న్యూసమ్ ఆదేశం ప్రకారం, ఏజెన్సీలు స్వతంత్ర AI పర్యవేక్షణను వేగవంతం చేయాలి మరియు సరికొత్త నమూనా "కిల్ స్విచ్" అంటే ఏమిటో కూడా వివరించాలి - దీనికి సంబంధించి సుమారు రెండు నెలల్లో బయటి నిపుణులు రానున్నారు.
పరిశీలనలో ఉన్న ప్రతిపాదనలు: ప్రయోగశాలలలోనే స్వతంత్ర ధృవీకరణకర్తలను నియమించడం, భద్రతా ప్రణాళికలపై మూడవ పక్షం తనిఖీలను తప్పనిసరి చేయడం, షట్ఆఫ్ ఇప్పటికీ పనిచేస్తుందని నిరూపిస్తూ ఉండటం, మరియు హగ్గింగ్ ఫేస్ ఘటన వంటి నియంత్రణ కోల్పోయే సంఘటనలను కూడా చేర్చడానికి "క్లిష్టమైన సంఘటన" పరిధిని విస్తరించడం.
ఇది అతను ఇప్పుడే సంతకం చేసిన SB 813, AB 1405 చట్టాలను వేగవంతం చేయడంతో పాటు, వాషింగ్టన్ను లక్ష్యంగా చేసుకున్న ఒక జాతీయ-ప్రామాణిక సవాలు కూడా. ఈ కిల్ స్విచ్ నిజమైన ఇంజనీరింగా లేక ఊరటనిచ్చే నినాదమా అనేది వర్కింగ్ గ్రూప్ నివేదిక దాఖలు చేసే వరకు తేలదు.
ఎఫ్ ఎ క్యూ
గూగుల్ జెమిని ఎలా చొరబడి కంప్యూటర్ వ్యవస్థలను హ్యాక్ చేసింది?
మే నెలలో ఇజ్రాయెల్ టెస్టర్ ఇర్రెగ్యులర్తో కలిసి నిర్వహించిన క్యాప్చర్-ది-ఫ్లాగ్ రన్ సమయంలో, ఒక శాండ్బాక్స్ బగ్ జెమినికి ఓపెన్ ఇంటర్నెట్ను అందించింది. దాంతో అది పాస్వర్డ్లను ఊహించడం మరియు పబ్లిక్ క్రెడెన్షియల్ డంప్లను ఉపయోగించి మూడు నిజమైన కంపెనీలలోకి ప్రవేశించింది. లక్ష్యాలు నకిలీవి కావని గ్రహించిన వెంటనే ఏజెంట్లు తమ కార్యకలాపాలను నిలిపివేశాయని గూగుల్ చెబుతోంది. తమ మోడళ్లలో ఒకటి అనుమతి లేకుండా స్వయంగా థర్డ్-పార్టీ సిస్టమ్లలోకి చొరబడిందని గూగుల్ అంగీకరించడం ఇప్పటికీ ఇదే మొదటిసారి. ఇదే రకమైన బగ్ల వల్ల ఓపెన్ఏఐ, ఆంత్రోపిక్, మరియు మెటా వంటి కంపెనీలు ఇప్పటికే ఇర్రెగ్యులర్ వంటి అనుభవాలను ఎదుర్కొన్నాయి, మరియు జూలై చివరిలో వాటి ల్యాబ్లకు ఈ విషయం తెలియజేయబడింది.
ఆంత్రోపిక్ జీవశాస్త్ర వెట్ ల్యాబ్ను ఎందుకు ఏర్పాటు చేస్తోంది?
ఆంత్రోపిక్ తన AI ఔషధ మరియు జీవశాస్త్ర కార్యక్రమాన్ని వేగవంతం చేస్తున్న క్రమంలో, కేవలం సూచనలు మాత్రమే కాకుండా నిజమైన ప్రయోగశాల పని జరిగే ఒక వెట్ ల్యాబ్ను బే ఏరియాలో నిర్ధారించింది. జీవశాస్త్ర విభాగం అధిపతి ఎరిక్ కౌడెరర్-అబ్రామ్స్ మాట్లాడుతూ, జీవశాస్త్రంలో అంతిమ పరీక్ష ఇప్పటికీ నిజమైన ప్రయోగశాల పనేనని, పరిమిత పర్యవేక్షణలో క్లాడ్ రోబోటిక్ పరికరాలను నడిపించాలనే ఆశయాలు ఉన్నాయని, అయితే పర్యవేక్షణ మాత్రం అత్యవసరమని అన్నారు. ఔషధ తయారీదారుల క్లోన్గా కాకుండా, ప్రాథమిక జీవశాస్త్రంపైనే దృష్టి కేంద్రీకరించబడింది, ప్రస్తుతానికి ఎలాంటి క్లినికల్ ట్రయల్స్ లేవు. జీవ ఉగ్రవాద ప్రమాదం గురించి ఆంత్రోపిక్ హెచ్చరించి, వేగాన్ని తగ్గించాలని పిలుపునిచ్చిన వారంలోనే ఈ ప్రకటన వెలువడింది.
ఆంత్రోపిక్ యొక్క మొదటి ఎంబెడెడ్ సేఫ్టీ ఎవాల్యుయేటర్ ఎవరు?
ఆంత్రోపిక్ యొక్క మొదటి అంతర్గత మూల్యాంకన విభాగం యాక్సెంచర్ ఫ్యాకల్టీ యూనిట్, అంతేగానీ METR లేదా అపోలో కాదు. ఫ్యాకల్టీ విభాగానికి రెడ్-టీమ్, పోక్ అలైన్మెంట్, మరియు స్ట్రెస్-టెస్ట్ సేఫ్గార్డ్స్కు ఉద్యోగికి ఉండేలాంటి యాక్సెస్ లభిస్తుంది. ఐదేళ్లలో దీనికి కనీసం ఒక బిలియన్ డాలర్లు ఖర్చవుతుందని ఇరుపక్షాలు చెబుతున్నాయి. మార్కెట్లు దీనిని స్వాగతించాయి - గంటల తర్వాత యాక్సెంచర్ షేర్లు సుమారు 8% పెరిగాయి - అయితే భద్రతా విమర్శకులు ధృవీకరణ ముసుగులో ఉన్న స్వీయ-పర్యవేక్షణను ప్రశ్నించారు. లాభాపేక్షలేని పైలట్ ప్రాజెక్టులతో సహా మరిన్ని మూల్యాంకన విభాగాలు రాబోతున్నాయని, మరియు జవాబుదారీతనం ఆంత్రోపిక్ వద్దనే ఉంటుందని ఆంత్రోపిక్ చెబుతోంది.
గూగుల్ యొక్క CC హౌస్హోల్డ్ AI ఏజెంట్ అంటే ఏమిటి?
CC అనేది గూగుల్ వారి ఫ్యామిలీ AI ఏజెంట్. ఇది ఒక రోజు ముందు సమాచార సాధనం నుండి అభివృద్ధి చెంది, ఇప్పుడు ఆరుగురు కుటుంబ సభ్యుల వరకు దాని స్వంత గూగుల్ ఖాతాను పొందుతుంది. ఇది పాఠశాల ఇమెయిళ్ళు, క్రీడలు, భోజనాలు మరియు అపాయింట్మెంట్లను నిర్వహించడానికి ఉద్దేశించబడింది. ఇంకా ఇది షాపింగ్ జాబితాలు, భోజన ప్రణాళికలు, ప్రయాణ సమయాలు, డాక్స్, షీట్స్ మరియు రిజిస్ట్రేషన్ PDFలను కూడా రూపొందించగలదు. ఇది జెమిని మరియు యాంటిగ్రావిటీ సాఫ్ట్వేర్లతో ఒక ప్రత్యేకమైన క్లౌడ్ బాక్స్లో పనిచేస్తుంది. ఇది 18 ఏళ్లు మరియు అంతకంటే ఎక్కువ వయస్సు ఉన్న వినియోగదారుల కోసం కేవలం US వ్యక్తిగత Gmailలో మాత్రమే అందుబాటులో ఉంది, కాబట్టి ఇది లక్ష్యంగా చేసుకున్న షెడ్యూల్లు గల టీనేజర్లు దీనిని ఇంకా ఉపయోగించలేరు.
ఒక ఏఐ భ్రాంతి దాదాపుగా అమెరికా సైనిక చర్యను ఎలా ప్రేరేపించింది?
ఈ వసంతకాలంలో, విమానాలు అప్పటికే గగనంలో ఉండగా, ఆ ఇంటెల్ (గూఢచార సమాచారం) సృష్టించబడిందని ఎవరో గమనించారు. ఒక SOCOM విశ్లేషకుడు, ఓపెన్-సోర్స్ డేటాను వర్గీకృత సంకేతాలతో కలపమని ఒక చాట్బాట్ను కోరాడు; అది ఒక చైనీస్ నౌకలోని సరుకును తప్పుగా చదివి, ఆ కల్పనను అధికారికంగా కనిపించే సారాంశంగా మార్చి, దానిని అణు కార్యక్రమ భాగాలని పేర్కొంటూ పై అధికారులకు పంపింది. చివరి నిమిషంలో ఆ ఆపరేషన్ను రద్దు చేశారు. గోవ్ఏఐ (GovAI)కి చెందిన జేక్ స్టెక్లర్, కఠినమైన అనిశ్చితి అక్షరాస్యత లేకుండా, ముఖ్యంగా బలప్రయోగానికి ముందు, సైనిక ఏఐ (AI) ప్రమాదకరంగానే ఉంటుందని వాదిస్తున్నారు.
గవర్నర్ న్యూసమ్ యొక్క AI కిల్-స్విచ్ కార్యనిర్వాహక ఉత్తర్వు ఏమి చేస్తుంది?
కాలిఫోర్నియా గవర్నర్ గావిన్ న్యూసమ్, స్వతంత్ర ఏఐ పర్యవేక్షణను వేగవంతం చేయాలని మరియు సరికొత్త మోడల్ 'కిల్ స్విచ్' అంటే ఏమిటో వివరించాలని ఏజెన్సీలను ఆదేశించారు. సుమారు రెండు నెలల్లో బయటి నిపుణులు రానున్నారు. పరిశీలనలో ఉన్న ఆలోచనలలో ల్యాబ్లలోనే స్వతంత్ర ధృవీకరణకర్తలను నియమించడం, భద్రతా ప్రణాళికలపై థర్డ్-పార్టీ తనిఖీలను తప్పనిసరి చేయడం, షట్ఆఫ్లు ఇప్పటికీ పనిచేస్తున్నాయని నిరూపించడం, మరియు 'హగ్గింగ్ ఫేస్' ఉదంతం వంటి నియంత్రణ కోల్పోయే కేసులను కూడా చేర్చడానికి క్లిష్టమైన సంఘటనల నిర్వచనాలను విస్తృతం చేయడం వంటివి ఉన్నాయి. ఈ ఆదేశం, ఆయన ఇప్పుడే సంతకం చేసిన SB 813 మరియు AB 1405 వంటి చట్టాలను వేగవంతం చేస్తుంది మరియు ఒక జాతీయ ప్రామాణికాన్ని నిర్దేశించాలని వాషింగ్టన్కు సవాలు విసురుతుంది.