ในฐานะนักวิเคราะห์ที่มีประสบการณ์ในอุตสาหกรรมเทคโนโลยี ฉันพบว่าการแลกเปลี่ยนสาธารณะระหว่าง Sam Altman และ Greg Brockman แห่ง OpenAI เกี่ยวกับการจากไปของ Jan Leike อดีตเจ้าหน้าที่ความปลอดภัยระดับสูงของพวกเขานั้นค่อนข้างน่าสนใจ
Sam Altman และ Greg Brockman ผู้นำของ OpenAI ซึ่งเป็นองค์กรที่อยู่เบื้องหลัง ChatGPT เพิ่งพูดถึงการออกจากบริษัทของ Jan Leike ในฟอรัมสาธารณะบน X.com เมื่อเร็วๆ นี้ Jan Leike เป็นบุคคลสำคัญในทีมความปลอดภัยของ OpenAI
ตามบทความล่าสุดโดย CryptoMoon Leike ดำรงตำแหน่งหัวหน้าฝ่ายการจัดตำแหน่งของบริษัท อย่างไรก็ตาม เมื่อวันที่ 17 พฤษภาคม เขาได้ประกาศลาออกเนื่องจากปัญหาขัดแย้งกับฝ่ายบริหารของบริษัทที่ไม่สามารถแก้ไขได้
“Leike แย้งว่าการจัดลำดับความสำคัญของการพัฒนาผลิตภัณฑ์ที่น่าประทับใจมากกว่าวัฒนธรรมและขั้นตอนด้านความปลอดภัยได้กลายเป็นที่แพร่หลายใน OpenAI”
ภายในหนึ่งวันหลังจากโพสต์ของ Leike Brockman และ Altman ก็มีปฏิกิริยาตอบสนองอย่างรวดเร็ว โดยแต่ละคนก็เข้าร่วม X.com อย่างรวดเร็ว
เกี่ยวกับการมีส่วนร่วมของ Brockman เขาได้เสนอแผนที่มีรายละเอียดและซับซ้อนซึ่งประกอบด้วยองค์ประกอบสำคัญ 3 ประการเพื่อให้แน่ใจว่ามีแนวปฏิบัติด้านความปลอดภัยภายในบริษัท
ในการเริ่มต้น เขารับทราบถึงการมีส่วนร่วมอันมีค่าที่ Leike ทำกับบริษัท ก่อนที่จะแสดงความไม่เห็นด้วยกับการยืนยันว่า OpenAI ละเลยข้อกังวลด้านความปลอดภัย
ในฐานะนักวิเคราะห์ ฉันจะกล่าวเช่นนี้: “ฉันได้ดึงความสนใจไปที่อันตรายและประโยชน์ของปัญญาประดิษฐ์ทั่วไป (AGI) ที่อาจเกิดขึ้นในงานเขียนของฉัน โดยเฉพาะอย่างยิ่ง องค์กรของฉันสนับสนุนให้มีกฎระเบียบระดับโลกของ AGI มานานก่อนที่จะกลายเป็นที่กว้างขวาง หัวข้อที่พูดคุยกัน”
“ประการที่สอง เราได้วางรากฐานที่จำเป็นสำหรับการใช้งานระบบที่มีความสามารถมากขึ้นอย่างปลอดภัย การหาวิธีทำให้เทคโนโลยีใหม่ปลอดภัยในครั้งแรกไม่ใช่เรื่องง่าย”
ในช่วงท้ายของสุนทรพจน์ของ Brockman เขาเน้นย้ำว่าความท้าทายที่อยู่ข้างหน้าจะยิ่งใหญ่กว่าที่เราเผชิญในอดีต เป็นสิ่งสำคัญสำหรับเราที่จะต้องปรับปรุงมาตรการด้านความปลอดภัยของเราอย่างต่อเนื่องเพื่อให้สอดคล้องกับความเสี่ยงที่เพิ่มขึ้นที่เกี่ยวข้องกับรถยนต์รุ่นใหม่แต่ละรุ่น
ฉันวิเคราะห์สถานการณ์และพบว่าเราไม่เหมือนกับยักษ์ใหญ่ด้านเทคโนโลยีอื่นๆ ตรงที่เราเข้าใกล้การพัฒนาด้วยความระมัดระวังมากขึ้น เราไม่แน่ใจแน่ชัดว่าเมื่อใดที่เราจะถึงเกณฑ์ความปลอดภัยในการเปิดตัวฟีเจอร์ใหม่ ซึ่งอาจส่งผลให้มีการขยายกำหนดการเปิดตัว
ในฐานะนักวิจัยที่กำลังศึกษาการสื่อสารล่าสุดของ Sam Altman ฉันสังเกตเห็นว่าแม้ว่าเขาจะเก็บข้อความเริ่มแรกไว้อย่างกระชับเกี่ยวกับหัวข้อใดหัวข้อหนึ่ง แต่เขาบอกเป็นนัยว่าจะแบ่งปันข้อมูลเชิงลึกเพิ่มเติมในอนาคตอันใกล้นี้
“เห็นด้วยกับการประเมินของอัลท์แมน ประเด็นของไลค์ทำให้เกิดข้อกังวลที่ถูกต้อง เรามุ่งมั่นที่จะแก้ไขปัญหาเหล่านี้เพิ่มเติม”
Sorry. No data so far.
2024-05-19 19:39