AI అభివృద్ధిని నెమ్మదింపజేసే ప్రణాళికను ఆంత్రోపిక్ సీఈఓ వివరించారు
డారియో అమోడెయ్ పరిశ్రమను… వేగాన్ని తగ్గించమని కోరారు. ఆపమని కాదు. వేగాన్ని పెంచమని. ఒక సుదీర్ఘ వ్యాసం, మూడు దశలు, మరియు పునరావృత స్వీయ-అభివృద్ధి అనేది పెద్దలు తనిఖీ చేయగలిగే దానికంటే వేగంగా ఇప్పటికే పుంజుకుంటోందన్న హెచ్చరిక.
ఆంత్రోపిక్ ఏకపక్షంగా మూల్యాంకకులను భవనంలోకి ఆహ్వానిస్తున్నాడు - వారికి బ్యాడ్జ్లు, డెస్క్లు, ల్యాప్టాప్లు, ఇంకా ఎలాంటి ప్రచార వడపోత లేకుండా పరిశోధన ఫలితాలను ప్రచురించే హక్కును కూడా ఇస్తున్నాడు. ఆ తర్వాత, భద్రతా ప్రమాణాలను సమన్వయం చేయడానికి ప్రజాస్వామ్య ప్రయోగశాలలను కోరుకుంటున్నాడు. ఆపై, ఎలాగోలా, నిరంకుశ ప్రభుత్వాలతో ఒక ఒప్పందం. కాగితం మీద సులభం. మిగతా అన్ని చోట్లా కష్టం.
AI ఒక అద్భుతం కాగలదని అతను ఇప్పటికీ అంటున్నాడు. అలాగే, మరింత సామర్థ్యం గల, అస్తవ్యస్తంగా ఉండే ఒక సమూహం నిరంతర బాట్నెట్తో ఇంటర్నెట్ను స్వాధీనం చేసుకుని, వందల బిలియన్ల నష్టాన్ని కలిగించవచ్చని కూడా అతను అంటున్నాడు. ఆ రెండు వాక్యాలు పక్కపక్కనే ఉన్నాయి, కానీ వాటి మధ్య పొంతన లేదు.
ఓహ్ - మరియు భద్రతా చర్చలు స్వయంగా చట్టపరమైన సమస్య కాకుండా ఉండేందుకు, అతను ఒక పరిమితమైన యాంటీట్రస్ట్ మినహాయింపును కోరుకుంటున్నాడు. బ్రేకులకు పత్రాలు అవసరం. తప్పకుండా అవసరమే.
AI భద్రతాపరమైన ఆందోళనల దృష్ట్యా, ఇప్పుడు IPO చేపట్టడం 'అనుచితమైన సమయం' అవుతుందని పేర్కొంటూ, OpenAI ఈ సంవత్సరం పబ్లిక్గా మారదని సామ్ ఆల్ట్మన్ ధృవీకరించారు
ఆల్ట్మన్ ఒక ప్రత్యేక ఇంటర్వ్యూ కోసం కూర్చుని, లిస్టింగ్ క్యాలెండర్ను రద్దు చేశారు. ప్రస్తుతం ఐపీఓ అనేది "అవివేకమైన సమయం" అవుతుందని ఆయన అన్నారు. భద్రతా పనులు ఇంకా పూర్తి కాలేదు. సమన్వయం ఇంకా పూర్తి కాలేదు. సమాజం సిద్ధంగా లేదు. వారు ఆయనను ఒత్తిడి చేసినప్పుడు - ఈ సంవత్సరం కాదు అని చెప్పారు.
బ్యాంకర్లు అప్పటికే చుట్టుముడుతున్నారు. రహస్య పత్రం ఉంది. ఇప్పుడు పరిశ్రమ, ప్రభుత్వాలు అసలు ఎలా కలిసి పనిచేస్తాయో కనుక్కోవడంతో సహా, ముందుగా తాము చేయాల్సిన పనులు చాలా ఉన్నాయని సీఈఓ చెబుతున్నారు. వేచి ఉండటంలో ఆయన స్వరం దాదాపు ఉపశమనం పొందినట్లుగా ఉంది.
మానవ నియంత్రణకు అతీతంగా ఏఐని నిర్మించడం 'ఖచ్చితంగా' సాధ్యమేనని కూడా ఆయన అన్నారు - ఆ తర్వాత, అదే మార్గమైతే శిక్షణను నిలిపివేస్తానని ప్రతిజ్ఞ చేశారు. సాహసోపేతమైనది. బహుశా సౌకర్యవంతమైనది కూడా. రెండూ కావచ్చు. వాటాదారుల ప్రయోజనాలకు స్పష్టంగా విరుద్ధంగా ఉండే నిర్ణయాలు తీసుకోవడానికే లాభాపేక్ష లేని / లాభాపేక్ష గల సంస్థల మధ్య ఈ చిక్కుముడి ఉందని ఆయన వాదించారు. ఈ వాక్యం ఒక అసలైన ప్రాస్పెక్టస్ను చూసిన తర్వాత నిలబడుతుందో లేదో చూడాలి.
భద్రతాపరమైన ప్రమాదాలను పరిష్కరించడానికి ఇతర AI కంపెనీలతో ఒప్పందం కుదుర్చుకోనున్నట్లు OpenAIకి చెందిన సామ్ ఆల్ట్మన్ సూచించారు
అదే ఇంటర్వ్యూ, వేరే శీర్షిక, మరియు ఇది ఒక గుసగుస. అమోడెయ్, మస్క్ మరియు డెమిస్ హస్సాబిస్లతో కూర్చోవడం సహజంగా జరగాల్సిన తదుపరి చర్య. ఆల్ట్మన్: అది జరుగుతుందని అతను అనుకుంటున్నాడు. అతను రహస్య చర్చలను ముందుగా ప్రకటించడు. ఆ తర్వాత అతను వాటిని దాదాపుగా ముందే ప్రకటించేశాడు.
రెండు అంకెల విపత్తు ప్రమాదం ఆమోదయోగ్యం కాదని ఆయన అన్నారు. ఇంకా విడుదల కాని నమూనాలు ఇప్పటికే చాలా సమర్థవంతంగా ఉన్నందున, మెరుగైన పర్యవేక్షణ లేకుండా ముందుకు వెళ్లడం అవివేకంగా అనిపిస్తుంది. నిజమైన ఒప్పందం మరియు జాగ్రత్తగా లీక్ చేయబడిన వాతావరణం బయటి నుండి ఒకేలా కనిపించవచ్చు.
సిబ్బంది అంతర్గతంగా దీనికి సంబంధించిన ఒక రూపాన్ని ఇప్పటికే విన్నారు. బహిరంగంగా మాత్రం ఇంకా స్పష్టత లేదు. ఒకవేళ ఆ గది ఖరారైతే, చాలా మంచిది. ఒకవేళ కాకపోయినా, ఆ కొటేషన్ దాని పనిని పూర్తి చేసినట్లే.
వేగాన్ని తగ్గించాలన్న డారియో అమోడెయ్ పిలుపును సామ్ ఆల్ట్మన్ సమర్థిస్తూ, OpenAI కూడా అదే చేస్తుందని అన్నారు
వ్యాసం వెలువడిన కొన్ని గంటల తర్వాత, ఎంబెడెడ్-ఎవాల్యుయేటర్ వాగ్దానానికి OpenAI కూడా కట్టుబడి ఉంటుందని ఆల్ట్మన్ పోస్ట్ చేశారు. ఉద్యోగి లాంటి యాక్సెస్. త్వరలో మరిన్ని వివరాలు. మస్క్ మూడు పదాలు రాశారు: "డారియో చెప్పింది నిజమే." ముగ్గురు ప్రత్యర్థి సీఈఓలు. ఒకే నినాదం. వారాంతపు అశాంతి వాతావరణం.
సమన్వయం మరియు నాటకీయత కలిసి ప్రయాణించగలవు. అమోడెయ్ ప్రణాళికలోని మొదటి మెట్టుకు ఇప్పుడు రెండు అతిపెద్ద ప్రయోగశాలలు బహిరంగంగా తల ఊపుతున్నాయి. హగ్గింగ్ ఫేస్ - అవును, అదే హగ్గింగ్ ఫేస్ - మూల్యాంకన కార్యక్రమంలో చేరమని కోరి, ఓపెన్ అలైన్మెంట్ ఇనిషియేటివ్ అనే దానిని ప్రారంభించింది. హ్యాక్కు గురైన వారి నుండి పారదర్శకత. కవితాత్మకంగా, లేదా సూటిగా.
చెప్పాలంటే, యూరప్లో ఆ అమెరికా తరహా మినహాయింపును అడగడానికి ఎవరూ లేరు. బ్రస్సెల్స్ ఎప్పుడో వ్యక్తిగత మినహాయింపులు ఇవ్వడం ఆపేసింది. కాబట్టి ఆ కరచాలనం అమెరికన్ తరహాది. మిగతా ప్రపంచం... భుజాలు ఎగరేస్తోంది.
OpenAI గెలవాలని మాత్రమే కోరుకుంటుంది
వారాంతపు ఇంటర్వ్యూల తర్వాత గణిత శాస్త్రవేత్తలు సంబరాల మూడ్లో లేరు. OpenAI యొక్క నావియర్-స్టోక్స్ స్ప్రింట్ — సుమారు పదివేల ఏజెంట్లు, కోట్లాది డాలర్ల కంప్యూట్, ఎనభై ఎనిమిది గంటలు — క్షేత్రస్థాయిలో నుండి చూస్తే ఒక ట్రోఫీ వేటలా కనిపిస్తోంది. గణిత శాస్త్రవేత్తలకు అంతర్దృష్టి కావాలి. ల్యాబ్ గెలవాలని కోరుకుంటోందని వారు పదేపదే చెబుతున్నారు.
తన ఆంత్రోపిక్-అనుబంధ సహకారిని తొలగిస్తే, అపరిమితమైన కంప్యూట్ మరియు ఏకైక రచనా హక్కును ఇస్తామని OpenAI ఆఫర్ చేసిందని ట్రిస్టన్ బక్మాస్టర్ వారికి చెప్పారు. ఆయన దానిని లంచం అని అన్నారు. ఆయన దానికి అంగీకరించలేదు. ఆయన కోడెక్స్ ప్రాంప్ట్లు సిస్టమ్ను ప్రభావితం చేసి ఉండవని OpenAI ఖచ్చితంగా చెబుతోంది. ఆయనకు నమ్మకం కలగలేదు. తన సొంత పని గురించి ChatGPT చేసిన సంభాషణలు, ఆ తర్వాత దానిపై నిర్మించిన మోడల్కు దోహదపడ్డాయా అని ఆండ్రియాస్ థామ్ ఇప్పటికీ ఆశ్చర్యపోతున్నారు. ఆ విషయం ఆ కంపెనీకి మాత్రమే తెలుసు. బహుశా ఆ విషయం వారికే తెలియదేమో అని ఆయన అనుమానిస్తున్నారు.
ఇక అసలు విషయం ఏంటంటే: మరో మిలీనియం ప్రైజ్ ప్రాబ్లమ్పై తాము ఇప్పటికే గణనీయమైన పురోగతి సాధించామని OpenAI చెబుతోంది. అది ఏంటనేది మాత్రం వెల్లడించలేదు. ఏదేమైనా, క్లే ప్రాబ్లమ్కు కమ్యూనిటీ ఆమోదం పొందడానికి ఇంకా చాలా సమయం పడుతుంది. కాబట్టి ఇంకా ఎవరూ "గెలవలేదు". వాళ్ళు కేవలం తర్వాతి ప్రాబ్లమ్తో పోటీ పడుతున్నారు. భలే ఉంది కదూ.
ఎఫ్ ఎ క్యూ
AI అభివృద్ధిని వేగవంతం చేయడానికి ఆంత్రోపిక్ CEO డారియో అమోడెయ్ ప్రణాళిక ఏమిటి?
ఆడిటర్లు అందుకోగలిగే వేగం కంటే పునరావృత స్వీయ-అభివృద్ధి వేగంగా ముందుకు సాగుతున్నందున, పరిశ్రమను ఆపవద్దని, నెమ్మదించమని కోరుతూ అమోడెయ్ ఒక సుదీర్ఘ వ్యాసాన్ని ప్రచురించారు. మొదటి అడుగుగా, బ్యాడ్జ్లు, డెస్క్లు, ల్యాప్టాప్లతో పాటు, ఎలాంటి పీఆర్ ఫిల్టర్ లేకుండా పరిశోధనల ఫలితాలను ప్రచురించే హక్కుతో ఎంబెడెడ్ ఎవాల్యుయేటర్లను ఏకపక్షంగా ఆంత్రోపిక్లోకి ఆహ్వానించాలి. ఆ తర్వాత, ప్రజాస్వామ్య ప్రయోగశాలలు భద్రతా ప్రమాణాలను సమన్వయం చేసుకోవాలని, చివరికి నిరంకుశ ప్రభుత్వాలతో ఏదో ఒక రకమైన ఒప్పందం జరగాలని ఆయన కోరుకుంటున్నారు. భద్రతా చర్చలు స్వయంగా చట్టపరమైన సమస్యగా మారకుండా ఉండేందుకు, ఆయన ఒక పరిమితమైన యాంటీట్రస్ట్ మినహాయింపును కూడా కోరుకుంటున్నారు.
OpenAI ఈ సంవత్సరం IPO చేయదని సామ్ ఆల్ట్మన్ ఎందుకు అన్నారు?
ఒక ప్రత్యేక ఇంటర్వ్యూలో, భద్రతా పనులు, సమన్వయం మరియు సామాజిక సంసిద్ధత ఇంకా పూర్తి కానందున, ప్రస్తుతం ఐపీఓకు వెళ్లడం అవివేకమైన నిర్ణయం అవుతుందని ఆల్ట్మన్ అన్నారు. ఒత్తిడి చేయగా, బ్యాంకర్లు చుట్టూ ఉన్నప్పటికీ మరియు ఒక రహస్య ఫైలింగ్ ఉన్నప్పటికీ, అది ఈ సంవత్సరం జరగదని ఆయన ధృవీకరించారు. వాటాదారుల ప్రయోజనాలకు స్పష్టంగా విరుద్ధంగా ఉండే నిర్ణయాలు తీసుకునేందుకే ఓపెన్ఏఐ లాభాపేక్షరహిత/లాభాపేక్షగల సంస్థల నిర్మాణాన్ని కలిగి ఉందని ఆయన వాదించారు. మానవ నియంత్రణకు అతీతంగా ఏఐని నిర్మించడం ఖచ్చితంగా సాధ్యమేనని, ఒకవేళ అదే మార్గమైతే శిక్షణను నిలిపివేస్తానని కూడా ఆయన ప్రతిజ్ఞ చేశారు.
ఇతర AI ల్యాబ్లతో భద్రతా ఒప్పందం గురించి ఆల్ట్మన్ సూచనప్రాయంగా చెప్పారా?
అదే ఇంటర్వ్యూలో, అమోడెయ్, మస్క్, మరియు డెమిస్ హస్సాబిస్ వంటి సహచరులతో సమావేశం జరుగుతుందని తాను భావిస్తున్నట్లు ఆల్ట్మన్ చెప్పారు, అయితే ప్రైవేట్ చర్చలను ముందుగా ప్రకటించడానికి నిరాకరించారు. రెండు అంకెల విపత్తు ప్రమాదం ఆమోదయోగ్యం కాదని, ఇంకా విడుదల కాని నమూనాలు ఇప్పటికే చాలా సామర్థ్యం కలిగి ఉన్నందున, మెరుగైన పర్యవేక్షణ లేకుండా ముందుకు వెళ్లడం అవివేకంగా అనిపిస్తుందని ఆయన వాదించారు. సిబ్బంది ఇప్పటికే అంతర్గతంగా దీనికి సంబంధించిన ఒక రూపాన్ని విన్నారు, కాబట్టి బహిరంగ వ్యాఖ్యలు ఒక పూర్తి ఒప్పందాన్ని ధృవీకరించడం కంటే సమన్వయానికి ఒక ముందస్తు సూచన కావచ్చు.
OpenAI, Anthropic యొక్క ఎంబెడెడ్-ఎవాల్యుయేటర్ ప్రతిజ్ఞకు సరిపోలుతుందా?
అమోడెయ్ వ్యాసం వెలువడిన కొన్ని గంటల తర్వాత, ఓపెన్ఏఐ తమ ఎంబెడెడ్-ఎవాల్యుయేటర్ వాగ్దానానికి అనుగుణంగా, ఉద్యోగికి లభించేటువంటి ప్రాప్యతను మరియు మరిన్ని వివరాలను త్వరలో అందిస్తుందని ఆల్ట్మాన్ పోస్ట్ చేశారు. డారియో చెప్పింది సరైనదేనని, ముగ్గురు ప్రత్యర్థి సీఈఓలను ఒకే విధమైన నినాదంపై ఉంచుతున్నారని ఎలాన్ మస్క్ రాశారు. హగ్గింగ్ ఫేస్ ఎవాల్యుయేటర్ ప్రోగ్రామ్లో చేరమని అభ్యర్థించి, ఒక ఓపెన్ అలైన్మెంట్ ఇనిషియేటివ్ను ప్రారంభించింది. అమోడెయ్ ప్రతిపాదించిన అమెరికా తరహా యాంటీట్రస్ట్ మినహాయింపును యూరప్ అందించలేదు, కాబట్టి ప్రస్తుతానికి ఈ ఒప్పందం ప్రధానంగా అమెరికన్లదే.
గణిత శాస్త్రవేత్తలు OpenAI యొక్క నావియర్-స్టోక్స్ స్ప్రింట్ను ఎందుకు విమర్శిస్తున్నారు?
గణిత శాస్త్రవేత్తలు, OpenAI యొక్క సుమారు పదివేల ఏజెంట్లతో, ఎనభై ఎనిమిది గంటల పాటు సాగిన నావియర్-స్టోక్స్ ప్రయోగాన్ని, అంతర్దృష్టి కంటే గెలుపుకే ప్రాధాన్యతనిచ్చే ఒక ట్రోఫీ వేటగా అభివర్ణిస్తున్నారు. తాను ఆంత్రోపిక్-అనుబంధ సహకారిని తొలగిస్తే, అపరిమితమైన కంప్యూట్ మరియు ఏకైక రచనా హక్కును OpenAI ఆఫర్ చేసిందని ట్రిస్టన్ బక్మాస్టర్ చెప్పారు; ఆయన దానిని లంచంగా భావించి నిరాకరించారు. ఆయన కోడెక్స్ ప్రాంప్ట్లు సిస్టమ్ను ప్రభావితం చేసి ఉండవని OpenAI చెబుతోంది, కానీ ఆయన మాత్రం నమ్మడం లేదు. ChatGPT తన సొంత పని గురించి జరిపిన సంభాషణలు తర్వాతి మోడల్ పురోగతికి దోహదపడ్డాయా అనే విషయాన్ని ఆండ్రియాస్ థామ్ ఇప్పటికీ ప్రశ్నిస్తూనే ఉన్నారు.
మరో మిలీనియం ప్రైజ్ సమస్యపై ఓపెన్ఏఐ పురోగతి సాధించినట్లు ప్రకటించిందా?
తాము మరో మిలీనియం ప్రైజ్ సమస్యపై ఇప్పటికే గణనీయమైన పురోగతి సాధించామని OpenAI చెబుతోంది, కానీ అది ఏ సమస్య అనే పేరును మాత్రం వెల్లడించడం లేదు. క్లే మ్యాథమెటిక్స్ ఇన్స్టిట్యూట్కు కమ్యూనిటీ ఆమోదం పొందడానికి ఇంకా చాలా కాలం పడుతుంది, కాబట్టి అధికారికంగా ఇంకా ఎవరూ గెలవలేదు. ఈ రంగంలో, ఆ గోప్యతతో పాటు అంతకుముందు జరిగిన నావియర్-స్టోక్స్ పోటీని బట్టి చూస్తే, ల్యాబ్లు ఇప్పటికే తదుపరి ట్రోఫీ కోసం వేగంగా పరుగెడుతున్నట్లు కనిపిస్తోంది. గణిత శాస్త్రవేత్తలు లోతైన అవగాహన కోరుకుంటుండగా, OpenAI గెలవాలని చూస్తుండటంతో ఈ ఉద్రిక్తత నెలకొని ఉందని 'ది వెర్జ్' ఇంటర్వ్యూలు వివరిస్తున్నాయి.