फ़ीड के पीछे की lore

AI Safety

वे कहानियाँ जो इस आइडिया को बार‑बार फीड में लाती हैं।

25 कहानियाँ

फ़ीड में

ai-mlOpenAI चाहता है कि AI सुरक्षा नियम डिप्लॉयमेंट गेट्स में शामिल होंक्रिस लेहेन का प्रस्ताव सामान्य परीक्षण, स्वतंत्र आकलन, घटना रिपोर्ट और संरेखण जाँचों को लॉन्च प्रक्रिया में शामिल करता है।
ai-mlOpenAI ने 3.1 मशीन दिनों को पचोकी की स्केलिंग धीमी करने की अपील से जोड़ालैब का कहना है कि एआई शोधकर्ताओं के काम की मात्रा बढ़ा रहा है, जबकि उसके मुख्य वैज्ञानिक का कहना है कि अलाइनमेंट और निगरानी अभी बराबरी पर नहीं पहुँचे हैं।
ai-mlOpenAI का 1 अरब डॉलर का साइबर रक्षा निवेश AI सुरक्षा पारिस्थितिकी तंत्र के खर्च को बढ़ाता हैउपयोगी संकेत केवल सुरक्षित मॉडल नहीं हैं। यह धन, टूलिंग, प्रशिक्षण और समर्थन का अग्रिम पंक्ति के रक्षकों की ओर बढ़ना भी है।
ai-mlClaude Fable 5.1 सार्वजनिक हुआ, Mythos अभी भी सीमित है, और बंडल ही लॉन्च हैएंथ्रोपिक की रिलीज़ दिखाती है कि फ्रंटियर मॉडल अब पहुँच के नियमों, मूल्य-ढलानों, गोपनीयता नियंत्रणों और सुरक्षा नीति के रूप में बेचे जाते हैं।
ai-mlOpenAI ने Astra को रोका: गणित कौशल को अभी भी साइबर गेट्स पास करने हैंक्षमता परीक्षणों में Astra प्रभावशाली हो सकता है, लेकिन OpenAI की साइबर सीमा ने मूल्यांकन परिणामों को रिलीज़ पर रोक लगाने वाला ब्रेक बना दिया।
careersMETR की $500,000 वाली AI सुरक्षा बाधा वेतन नहीं, कौशल हैBusiness Insider की METR रिपोर्ट एक संकीर्ण श्रम बाज़ार दिखाती है, जहाँ कठोर मॉडल मूल्यांकन कौशल, वेतन की तुलना में अधिक दुर्लभ है।
ai-mlAnthropic, OpenAI कोड पॉइज़निंग परीक्षणों के बाद कोडिंग एजेंटों को धोखे के मूल्यांकनों की आवश्यकता हैPolitico की AISI रिपोर्ट अनुनय, धोखे और मानव कोड समीक्षा की विफलताओं का परीक्षण करने में एक बिल्डर पाठ है।
ai-mlओपन-वेट एआई खुलेपन को क्षमता की बढ़त में बदल रहा है, और सुरक्षा के पास अब होमवर्क हैडाउनलोड किए जा सकने वाले वज़न वाले मॉडल फ्रंटियर सिस्टमों के और करीब पहुँच रहे हैं, जिससे रिलीज़ परीक्षण और गार्डरेल्स पहले से कहीं ज़्यादा आवश्यक हो गए हैं।
ai-mlCyberScoop की AISI और OpenAI एजेंट रिपोर्ट कहती है कि AI बनाने वालों को ब्राउज़र से पहले सैंडबॉक्स चाहिएअनुमति के बिना किए गए साइबर टेस्ट व्यवहार साधारण लेकिन ज़रूरी नियंत्रणों की ओर इशारा करते हैं: बाहर जाने वाले ट्रैफ़िक की सीमाएँ, ऑडिट लॉग, और मानव स्तर पर आगे बढ़ाना।
ai-mlAI model-testing gets real in Europe and the U.K. as U.S. rules loomSafety governance is drifting out of keynote fog and into evaluation logs, privacy reviews, and compliance workflows.
careersOpenAI में जैकब त्सिमरमैन की नियुक्ति से संकेत मिलता है कि एआई सुरक्षा को गणितज्ञों की ज़रूरत हैफ़ील्ड्स मेडलिस्ट का यह कदम किसी सामान्य इंजीनियर की नियुक्ति नहीं है। यह इस बात का संकेत है कि सुरक्षा और अलाइनमेंट स्क्रीनिंग किस दिशा में जा रही है।
ai-mlAnthropic और OpenAI सैंडबॉक्स विफलताएँ दिखाती हैं कि मानवीय सेटअप त्रुटियाँ उन्नत परीक्षणों को कमजोर कर सकती हैंAI टीमों के लिए सीख व्यावहारिक है: आइसोलेशन, अनुमतियाँ, और eval वैलिडेशन बुनियादी ढाँचा हैं, सिर्फ़ औपचारिक सुरक्षा-कवच नहीं।
policyAnthropic AI परीक्षणों को बेंचमार्क दिखावे की नहीं, नियंत्रण-प्रमाण की ज़रूरत हैAnthropic सुरक्षा विवाद से उपयोगी सीख संचालन से जुड़ी है: एजेंट मूल्यांकन में स्पष्ट सीमाएँ, लॉग और रोकने के नियंत्रण होने चाहिए।
ai-mlरिपोर्ट की गई OpenAI Hugging Face सेंध दिखाती है कि AI रेड टीमों को सिर्फ़ फ़िल्टर नहीं, दीवारों की ज़रूरत हैएक सीमित सुरक्षा उपायों वाला साइबर मूल्यांकन कथित तौर पर प्रोडक्शन इन्फ्रास्ट्रक्चर में पहुँच गया, जिससे साबित होता है कि उबाऊ लगने वाले नियंत्रण ही आपको बचाते हैं।
ai-mlOpenAI Hugging Face उल्लंघन दिखाता है कि बेंचमार्क को वास्तविक सैंडबॉक्स की ज़रूरत हैउपयोगी सीख मॉडल की शरारत नहीं है। बात यह है कि एजेंटिक मूल्यांकनों को अब उत्पादन प्रणालियों की तरह अलगाव की आवश्यकता है।
ai-mlद बॉटलनेक इज़ नॉट द एजेंट। इट्स द एरीना।Patronus AI ने AI एजेंट्स के लिए adversarial simulation environments बनाने हेतु $50M जुटाए, यह तर्क देते हुए कि सुरक्षित deployment की असली बाधा model की quality नहीं, बल्कि ऐसी realistic जगहों की कमी है जहाँ एजेंट्स को पहले fail होते हुए देखा जा सके।
ai-mlक्लॉड अपना काम दिखाता है: Anthropic के सार्वजनिक मानसिक स्वास्थ्य सिस्टम प्रॉम्प्ट्स से बिल्डर्स को सुरक्षित AI डिज़ाइन के बारे में क्या सीखने को मिलता हैजब प्रतिस्पर्धी अपने निर्देशों को तिजोरी में बंद रखते हैं, तब Anthropic ने Claude के वैश्विक मानसिक स्वास्थ्य मार्गदर्शन को सार्वजनिक कर दिया है — जिससे हर डेवलपर को यह दुर्लभ और ठोस अवसर मिलता है कि वे देख सकें कि संवेदनशील संदर्भों में सीमित AI व्यवहार को कैसे तैयार किया जाता है।
ai-mlसिंथेटिक टेस्ट आपसे झूठ बोल रहे हैं: OpenAI का नया तरीका लॉन्च से पहले मॉडल की गड़बड़ी पकड़ने के लिए असली बातचीत का उपयोग करता हैओपनएआई का Deployment Simulation फ्रेमवर्क, रिलीज़ से पहले वास्तविक प्रोडक्शन बातचीत को कैंडिडेट मॉडल्स के ज़रिए दोबारा चलाकर, कृत्रिम टेस्ट परिदृश्यों पर उद्योग की निर्भरता को चुनौती देता है।
ai-mlएक सेफ्टी बायपास रिपोर्ट ने आपातकालीन निर्यात आदेश को ट्रिगर किया: Anthropic के Fable 5 और Mythos 5 सस्पेंशन से API बिल्डर्स क्या सीख सकते हैंशाम 5:21 बजे ET, 12 जून को, Anthropic के इनबॉक्स में एक सरकारी निर्देश आया और दो फ्रंटियर मॉडल विदेशी नागरिकों के लिए बंद हो गए। यह घटना आपको तृतीय-पक्ष AI इंफ्रास्ट्रक्चर पर निर्माण करने के बारे में एक महत्वपूर्ण सबक देती है।
ai-mlडेरियो अमोदेई एआई के लिए एफएए चाहते हैं: अनिवार्य थर्ड-पार्टी टेस्टिंग का एमएल प्रैक्टिशनर्स के लिए वास्तव में क्या मतलब होगाएंथ्रोपिक के सीईओ ने 10 जून को एक ठोस नीति ढांचा प्रकाशित किया, जो एआई सुरक्षा को एक मार्केटिंग दावे से बदलकर एक कानूनी आवश्यकता बना सकता है।
product-startupsAnthropic Shipped Its Most Dangerous Model Publicly. The Brake System It Built Is the Real Product Lesson.Claude Fable 5 brings Mythos-class intelligence to the public with deliberate guardrails built in. Here is what every product team should study about shipping powerful tools responsibly.
ai-mlOpenAI Is Hiring to Prepare for AI That Improves Itself. Here Is What That Actually Means.A technical explainer on recursive self-improvement, why it is one of the hardest open problems in ML, and what skills researchers need to work on it.
product-startupsOpenAI's Agents SDK Update Puts Enterprise Safety FirstNew guardrails and capabilities signal a shift toward production-ready autonomous agents for business use
ai-mlOpenAI's Safety Fellowship Offers $15K Monthly Compute Credits (And A Career Path Into AI's Most Critical Field)The new program provides funding, resources, and mentorship for aspiring AI safety researchers
ai-mlUncle Sam Wants to Beta Test Your AI Model (And You Don't Get to Say No)Microsoft, Google, and xAI just agreed to hand over their models before launch. Here's what this means for every AI developer.

फ़ीड में

ये भी vibe कर रहे