జలపెనో యొక్క తొలి ఫలితాలు ఏఐ ఇన్ఫరెన్స్లో పరిశ్రమలోనే అగ్రగామి వేగం మరియు సామర్థ్యాన్ని ప్రదర్శిస్తున్నాయి ↗
OpenAI తన కస్టమ్ ఇన్ఫరెన్స్ చిప్ అయిన జలపెనో యొక్క మొదటి పనితీరు ఫలితాలను ప్రచురించింది. GPT-OSS 120B సిస్టమ్పై, పోలిక సిస్టమ్ కంటే ఈ చిప్ ప్రతి కిలోవాట్కు సుమారుగా 1.9 రెట్లు ఎక్కువ పీక్ త్రూపుట్ను మరియు దాదాపు 1.7 రెట్లు తక్కువ ఎండ్-టు-ఎండ్ లేటెన్సీని అందించినట్లు ఆ సంస్థ పేర్కొంది
ఈ ప్రయోజనాలు డీప్సీక్ R1 మరియు కిమి K2.5 లలో కూడా కొనసాగాయి. OpenAI తన సొంత కంప్యూట్ ఇన్ఫ్రాస్ట్రక్చర్లో జలపెనోను అమర్చాలని యోచిస్తోంది, అదే సమయంలో రెండవ మరియు మూడవ తరం డిజైన్లు ఇప్పటికే పురోగతిలో ఉన్నాయి... కాబట్టి అవును, OpenAI కూడా ఒక రకంగా క్రమంగా చిప్ కంపెనీగా మారుతోంది. (OpenAI)
క్లాడ్ కోవర్క్ మీరు చాట్లో యాప్కి చెప్పిన విషయాన్ని చివరకు గుర్తుచేసుకుంది ↗
ఆంత్రోపిక్, సాధారణ చాట్ మరియు కోవర్క్ అంతటా క్లాడ్ యొక్క జ్ఞాపకశక్తిని ఏకీకృతం చేసింది. సంభాషణల సమయంలో నేర్చుకున్న సమాచారం ఇప్పుడు ఏజెంటిక్ టాస్క్లలోకి వినియోగదారులతో పాటు వెళ్ళగలదు, తద్వారా ఒకే ప్రాజెక్ట్ను పదే పదే వివరించే కొద్దిగా విసుగు పుట్టించే తంతును తొలగిస్తుంది.
సంభాషణలు జరుగుతున్నప్పుడే మెమరీలు అప్డేట్ అవుతుండగా, వినియోగదారులు గుర్తుంచుకున్న టాపిక్లను పరిశీలించవచ్చు, సవరించవచ్చు మరియు తొలగించవచ్చు. ఈ ఫీచర్ ఫ్రీ, ప్రో మరియు మాక్స్ ప్లాన్లలో డిఫాల్ట్గా ఎనేబుల్ చేయబడి ఉంటుంది. (టెక్క్రంచ్)
న్యాయ రంగం కోసం గూగుల్ క్లౌడ్ జెమిని ఎంటర్ప్రైజ్ను ప్రారంభించింది ↗
గూగుల్ క్లౌడ్ న్యాయవాదుల కోసం ప్రత్యేకంగా రూపొందించిన జెమిని ఎంటర్ప్రైజ్ ప్యాకేజీని ఆవిష్కరించింది. ఇది తన ఏజెంట్లను సాధారణ చాట్ పరిధిని దాటి, ఒప్పంద సమీక్ష, న్యాయ పరిశోధన, నియంత్రణ పర్యవేక్షణ, గోప్యతా అభ్యర్థనలు మరియు పత్రాల రూపకల్పన వంటి రంగాలలోకి విస్తరింపజేస్తుంది.
ఇది సంస్థల ప్రస్తుత యాక్సెస్ నియంత్రణలు మరియు నైతిక పరిమితులను కాపాడుతూనే, హార్వే, ఐమ్యానేజ్, డాక్యుసైన్, రిలేటివిటీవన్ మరియు థామ్సన్ రాయిటర్స్ వంటి ప్లాట్ఫారమ్ల కోసం కనెక్టర్లను కలిగి ఉంది. ఈ ఏఐ-ఏజెంట్ ఆక్రమణ న్యాయ విభాగానికి కూడా చేరింది... ఊహించినట్లుగానే, కానీ ఇప్పటికీ చాలా వేగంగానే. (గూగుల్ క్లౌడ్ ప్రెస్ కార్నర్)
గూగుల్ క్లౌడ్ ఫైనాన్షియల్ సర్వీసెస్ కోసం జెమిని ఎంటర్ప్రైజ్ను ప్రారంభించింది ↗
గూగుల్ ఫైనాన్స్కు ప్రత్యేకమైన జెమిని ఎంటర్ప్రైజ్ ఆఫరింగ్ను కూడా ప్రారంభించింది. ఇందులో మేనేజ్డ్ ఫైనాన్షియల్ రీసెర్చ్ ఏజెంట్, 50కి పైగా ప్రత్యేక నైపుణ్యాలు మరియు ఫైనాన్షియల్, మార్కెట్-డేటా సిస్టమ్లకు 13 కనెక్టర్లు ఉన్నాయి
ఈ ప్లాట్ఫారమ్ క్రెడిట్-రిస్క్ అంచనా, పోర్ట్ఫోలియో పర్యవేక్షణ, కేవైసీ పరిశోధన మరియు మార్కెట్ విశ్లేషణ వంటి వర్క్ఫ్లోలను లక్ష్యంగా చేసుకుంది. సీఎంఈ గ్రూప్ మరియు డాయిష్ బ్యాంక్ వంటి సంస్థలు ఇప్పటికే ఇందులో పాలుపంచుకుంటున్నాయి - ఎంటర్ప్రైజ్ ఏజెంట్లు నానాటికీ మరింత ప్రత్యేకతను సంతరించుకుంటున్నాయి, దాదాపు సూట్ ధరించిన సాఫ్ట్వేర్ లాగా. (గూగుల్ క్లౌడ్ ప్రెస్ కార్నర్)
ఎంట్రీ-లెవల్ ఎడ్జ్ AIని పునర్నిర్వచించడానికి ఎన్విడియా జెట్సన్ ఓరిన్ నానో 2 రోబోటిక్స్ కంప్యూటర్ను ప్రకటించింది ↗
రోబోలు, డ్రోన్లు మరియు ఇతర ఫిజికల్-ఏఐ సిస్టమ్ల కోసం ఉద్దేశించిన జెట్సన్ ఓరిన్ నానో 2 అనే కాంపాక్ట్ కంప్యూటర్ను ఎన్విడియా పరిచయం చేసింది. ఇది సెకనుకు 78 ట్రిలియన్ల ఆపరేషన్లు, 8GB మెమరీ మరియు ఎనిమిది-కోర్ ఆర్మ్ CPUని అందిస్తుంది.
మునుపటి నానో సూపర్తో పోలిస్తే ఇన్ఫరెన్స్ పనితీరు రెట్టింపు అవుతుందని, అదే సమయంలో దాని పనితీరుకు సరిసమానంగా ఉండటానికి 40% తక్కువ విద్యుత్ అవసరమవుతుందని ఎన్విడియా చెబుతోంది . కాంపాక్ట్ హార్డ్వేర్పై చిన్న మోడళ్లు నిజంగా సామర్థ్యం గలవిగా మారడం ఇక్కడ ఆసక్తికరమైన విషయం - AI ఇకపై ఎల్లప్పుడూ భారీ డేటా సెంటర్ను సంప్రదించాల్సిన అవసరం లేదు. ( ఎన్విడియా న్యూస్రూమ్ )
టోకెన్ ఖర్చులు లేని, పూర్తిగా స్థానిక AI ఏజెంట్ అయిన పోర్టబుల్ కంప్యూటర్ను ప్రారంభించడానికి పెర్ప్లెక్సిటీ, ఎన్విడియాతో భాగస్వామ్యం కుదుర్చుకుంది ↗
పెర్ప్లెక్సిటీ పోర్టబుల్ కంప్యూటర్ను ప్రారంభించింది, దీని ద్వారా దాని ఏజెంటిక్ కంప్యూటర్ అనుభవాన్ని ఎన్విడియా-ఆధారిత స్థానిక హార్డ్వేర్పైకి తీసుకువచ్చింది. మోడల్స్, ఫైల్స్ మరియు ఏజెంట్ ఎగ్జిక్యూషన్ యూజర్ మెషీన్లోనే ఉంటాయి, అలాగే స్థానికంగా పూర్తి చేసిన పనికి క్లౌడ్ బిల్లింగ్ క్రెడిట్లు ఏవీ.
పనులు స్థానికంగా ప్రారంభమవుతాయి, మరియు అత్యాధునిక క్లౌడ్ మోడల్కు ఒక అడుగు ముందుకు వేయడానికి ముందు సిస్టమ్ అనుమతి కోరుతుంది. ఇది తగినంత శక్తివంతమైన RTX GPUలు కలిగిన Nvidia DGX Spark మరియు Linux సిస్టమ్ల ఆధారంగా ప్రారంభించబడుతుంది - దీనితో కేవలం వేగం మాత్రమే కాకుండా, గోప్యత మరియు ఖర్చు కూడా అకస్మాత్తుగా స్థానిక-AI అమ్మకాల ప్రచారంలో భాగమవుతాయి. (వెంచర్బీట్)
ఆంథ్రోపిక్ సంస్థ 30 ట్రిలియన్ డాలర్లకు పైగా సంభావ్య ఆదాయాన్ని అంచనా వేస్తున్నట్లు పెట్టుబడిదారులకు తెలియజేయనుందని WSJ నివేదించింది ↗
ఆంత్రోపిక్ తన మొత్తం సంభావ్య మార్కెట్ 30 ట్రిలియన్ డాలర్లను మించిపోవచ్చని పెట్టుబడిదారులకు చెప్పడానికి సిద్ధమవుతున్నట్లు సమాచారం . ఇక్కడ ఒక ముఖ్యమైన తేడా ఉంది - అది, ఒకవేళ ఏఐ సంబంధిత పనిని దక్కించుకుంటే లభించే సైద్ధాంతిక వార్షిక అవకాశం, అంతేగానీ ఆంత్రోపిక్ భవిష్యత్తులో 30 ట్రిలియన్ డాలర్లు సంపాదిస్తుందని అంచనా వేయడం కాదు. ( రాయిటర్స్ )
ఈ భారీ సంఖ్య ఆంత్రోపిక్ యొక్క మౌలిక సదుపాయాల వ్యయం, OpenAI మరియు గూగుల్తో దాని పోటీ, ఇంకా విస్తృత పెట్టుబడిదారుల కథనాన్ని అర్థం చేసుకోవడానికి సహాయపడుతుంది. AI-పరిశ్రమ సంఖ్యా ప్రమాణాల ప్రకారం చూసినా కూడా ఇది అద్భుతంగా పెద్ద సంఖ్య. (రాయిటర్స్)
ఎఫ్ ఎ క్యూ
OpenAI యొక్క జలపెనో చిప్ ఫలితాలు AI ఇన్ఫరెన్స్కు ఏ అర్థాన్ని ఇస్తాయి?
GPT-OSS 120Bను నడుపుతున్నప్పుడు, జలపెనో దాని పోలిక సిస్టమ్ కంటే ప్రతి కిలోవాట్కు అధిక గరిష్ట త్రూపుట్ను మరియు తక్కువ ఎండ్-టు-ఎండ్ లేటెన్సీని అందించినట్లు OpenAI చెబుతోంది. డీప్సీక్ R1 మరియు కిమి K2.5 లతో కూడా ఇలాంటి లాభాలే నమోదయ్యాయి. భారీ-స్థాయి AI ఇన్ఫరెన్స్ యొక్క నిర్దిష్ట సామర్థ్యం మరియు వేగ అవసరాలకు అనుగుణంగా OpenAI హార్డ్వేర్ను ఎక్కువగా రూపొందిస్తోందని ఈ ఫలితాలు సూచిస్తున్నాయి.
చాట్ మరియు కోవర్క్లో క్లాడ్ యొక్క షేర్డ్ మెమరీ ఎలా పనిచేస్తుంది?
క్లాడ్ ఇప్పుడు సాధారణ సంభాషణలలో నేర్చుకున్న సమాచారాన్ని కోవర్క్ టాస్క్లలోకి తీసుకువెళ్లగలడు, దీనివల్ల ఒకే ప్రాజెక్ట్ లేదా సందర్భాన్ని పదేపదే వివరించాల్సిన అవసరం తగ్గుతుంది. వినియోగదారులు గుర్తుంచుకున్న అంశాలను పరిశీలించవచ్చు, సవరించవచ్చు మరియు తొలగించవచ్చు, అదే సమయంలో సంభాషణలు కొనసాగుతున్న కొద్దీ ఆ జ్ఞాపకాలు అప్డేట్ అవుతూ ఉంటాయి. ఈ ఆర్టికల్లో పేర్కొన్న ప్రకటన ప్రకారం, ఈ ఫీచర్ ఫ్రీ, ప్రో మరియు మాక్స్ ప్లాన్లలో డిఫాల్ట్గా ఎనేబుల్ చేయబడింది.
జెమిని ఎంటర్ప్రైజ్ ఫర్ లీగల్ అండ్ ఫైనాన్షియల్ సర్వీసెస్ ఏమి చేయగలదు?
గూగుల్ క్లౌడ్ యొక్క ప్రత్యేకమైన జెమిని ఎంటర్ప్రైజ్ ఆఫరింగ్లు సాధారణ AI చాట్కు బదులుగా పరిశ్రమ-నిర్దిష్ట వర్క్ఫ్లోలను లక్ష్యంగా చేసుకున్నాయి. లీగల్ ప్యాకేజీ కాంట్రాక్ట్ సమీక్ష, పరిశోధన, నియంత్రణ పర్యవేక్షణ, గోప్యతా అభ్యర్థనలు మరియు ముసాయిదా వంటి రంగాలను కవర్ చేస్తుంది, అయితే ఫైనాన్షియల్-సర్వీసెస్ వెర్షన్ క్రెడిట్-రిస్క్ అంచనా, పోర్ట్ఫోలియో పర్యవేక్షణ, KYC పరిశోధన మరియు మార్కెట్ విశ్లేషణ వంటి వర్క్ఫ్లోలకు మద్దతు ఇస్తుంది. ఈ రెండూ ఇప్పటికే ఉన్న ప్రొఫెషనల్ డేటా మరియు సాఫ్ట్వేర్ సిస్టమ్లతో కూడా కనెక్ట్ కాగలవు.
స్థానిక AI అనుమితి ఎందుకు మరింత ముఖ్యమవుతోంది?
స్థానిక AI ఇన్ఫరెన్స్ గోప్యతను బలోపేతం చేస్తుంది, క్లౌడ్ ఇన్ఫ్రాస్ట్రక్చర్పై ఆధారపడటాన్ని తగ్గిస్తుంది మరియు కొనసాగుతున్న వినియోగ ఖర్చులను కూడా తగ్గించే అవకాశం ఉంది. ఎన్విడియా యొక్క జెట్సన్ ఓరిన్ నానో 2 రోబోట్లు, డ్రోన్లు మరియు ఇతర ఎడ్జ్ సిస్టమ్లను లక్ష్యంగా చేసుకోగా, పెర్ప్లెక్సిటీ యొక్క పోర్టబుల్ కంప్యూటర్ మోడల్లు, ఫైల్లు మరియు ఏజెంట్ ఎగ్జిక్యూషన్ను అనుకూలమైన స్థానిక హార్డ్వేర్పై ఉంచుతుంది. అనేక వర్క్ఫ్లోలలో, అదనపు సామర్థ్యం అవసరమయ్యే పనుల కోసం క్లౌడ్ మోడల్లను రిజర్వ్ చేసుకోవచ్చు.
పెర్ప్లెక్సిటీ పోర్టబుల్ కంప్యూటర్ క్లౌడ్ AIని ఎప్పుడు ఉపయోగించాలో ఎలా నిర్ణయిస్తుంది?
పనులు వినియోగదారుడి స్థానిక ఎన్విడియా-ఆధారిత హార్డ్వేర్పై ప్రారంభమయ్యేలా రూపొందించబడ్డాయి, తద్వారా అనుకూలమైన మోడల్ అమలు మరియు ఫైల్లు మెషీన్లోనే ఉంటాయి. ఒక దశకు అత్యాధునిక క్లౌడ్ మోడల్ అవసరమైతే, సిస్టమ్ దానిని పై స్థాయికి పంపే ముందు వినియోగదారుడి అనుమతిని అడుగుతుంది. స్థానికంగా పూర్తి చేసిన పని క్లౌడ్ బిల్లింగ్ క్రెడిట్లను వినియోగించదు, అందువల్ల గోప్యత మరియు పునరావృతమయ్యే ఇన్ఫరెన్స్ ఖర్చుల గురించి ఆందోళన చెందే వినియోగదారులకు ఈ విధానం అనుకూలంగా ఉంటుంది.
ఆంత్రోపిక్ నివేదించిన 30 ట్రిలియన్ డాలర్ల AI మార్కెట్ అంచనా దేనిని సూచిస్తుంది?
నివేదించబడిన ఈ సంఖ్య, ఏఐ (AI) కోసం సంభావ్యంగా అందుబాటులో ఉన్న మొత్తం మార్కెట్పై ఆంత్రోపిక్ యొక్క అభిప్రాయాన్ని సూచిస్తుంది; అంతేగానీ, ఆంత్రోపిక్ సంస్థే ఏటా 30 ట్రిలియన్ డాలర్ల ఆదాయాన్ని ఆర్జిస్తుందనే అంచనాను కాదు. ఇది, ఆర్థిక వ్యవస్థ వ్యాప్తంగా ఏఐ పరిష్కరించగల పని యొక్క సైద్ధాంతిక విలువను సూచిస్తుంది. ప్రముఖ ఏఐ కంపెనీలు మౌలిక సదుపాయాలు మరియు సంస్థాగత సామర్థ్యాలలో ఎందుకు ఇంత భారీగా పెట్టుబడులు పెడుతున్నాయో వివరించడానికి కూడా ఈ అంచనా సహాయపడుతుంది.