Buterin ผู้ก่อตั้ง Ethereum เสนอกลยุทธ์การป้องกันจาก AI Doom Scenario

by

ในฐานะนักลงทุน crypto ฉันหลงใหลในมุมมองการคิดล่วงหน้าของ Vitalik Buterin ในระยะต่อไปของ “ความก้าวหน้าในการป้องกันแบบกระจายอำนาจและเป็นประชาธิปไตย” เขาส่งสัญญาณเตือนเกี่ยวกับอันตรายที่อาจเกิดขึ้นจาก AI ที่ชาญฉลาด โดยเน้นว่าหากเราไม่สร้างสมดุลที่ละเอียดอ่อนระหว่างการเร่งเทคโนโลยีการป้องกัน การส่งเสริมการเปิดกว้าง และการสร้างการป้องกันทางกฎหมายที่แข็งแกร่ง AI ขั้นสูงเหล่านี้อาจก่อให้เกิดภัยคุกคามต่อมนุษยชาติได้

สงครามผู้ก่อตั้ง Ethereum แห่ง AI Doom

ในบล็อกโพสต์ล่าสุดของเขา เขาชี้ให้เห็นว่าสิ่งต่าง ๆ จะออกมาดีไม่ได้หากไม่มีการแทรกแซง เขาเน้นย้ำถึงความเร่งด่วนของเรื่องนี้ โดยพิจารณาว่าความก้าวหน้าในด้านปัญญาประดิษฐ์ขั้นสูงอาจเกิดขึ้นได้ภายในห้าปี หากเราต้องการหลีกเลี่ยงภัยพิบัติหรือภัยพิบัติที่ไม่อาจเพิกถอนได้ เราไม่สามารถเพียงเร่งให้เกิดผลดีเท่านั้น เรายังต้องควบคุมผลกระทบเชิงลบด้วยการใช้กฎระเบียบที่เข้มงวด แม้ว่ามาตรการเหล่านี้อาจทำให้บุคคลที่มีอิทธิพลไม่พอใจก็ตาม

แนวคิดของ Vitalik Buterin เน้นการสร้างสมดุลระหว่างความก้าวหน้าทางเทคโนโลยีที่รวดเร็วและความพร้อม เขาสนับสนุนให้เราสร้างเทคโนโลยีที่รับประกันความปลอดภัยของเราโดยไม่ต้องคิดว่า ‘คนดี (หรือ AI ที่เป็นประโยชน์)’ จะถูกควบคุมอยู่เสมอ เขาเตือนไม่ให้มีการแข่งขันที่ไร้สติในการพัฒนา AI หรือเทคโนโลยีชีวภาพ เนื่องจากอาจให้อำนาจแก่กองกำลังทหารหรือบุคคลที่เป็นอันตรายแทน

ในภาพประกอบที่น่าสนใจ เขาจินตนาการถึงเหตุการณ์ที่เกิดขึ้นไม่ไกลนัก โดยที่ “การเจ็บป่วย ตามแบบจำลองอาจรุนแรงกว่าโควิดเมื่อ 20 ปีที่แล้วถึง 5 เท่า แต่ในปัจจุบันนี้ไม่มีนัยสำคัญเลย” เนื่องจากระดับรากหญ้า การป้องกันร่วมกัน เช่น โอเพ่นซอร์ส การติดตามคุณภาพอากาศและพิมพ์เขียววัคซีนที่พัฒนาอย่างรวดเร็ว เขาตั้งข้อสังเกตว่าผู้ที่พัฒนาเทคโนโลยีเหล่านี้มานานหลายปีกำลังรับรู้ถึงงานของกันและกันมากขึ้น โดยอธิบายเพิ่มเติมว่า “หลักการที่เห็นแก่ผู้อื่นแบบเดียวกันที่อยู่เบื้องหลัง Ethereum และสกุลเงินดิจิทัลสามารถขยายไปสู่บริบทระดับโลกที่กว้างขึ้นได้

แกนหลักของกลยุทธ์การป้องกันของผู้ร่วมก่อตั้ง Ethereum หมุนรอบแนวคิดที่เขาเรียกว่า “d/acc” ซึ่งเกี่ยวข้องกับการเน้นเครื่องมือที่ส่งเสริมอำนาจส่วนบุคคลเหนือรัฐบาลหรือองค์กรในการกำหนดการเข้าถึงทรัพยากรที่จำเป็น เขาแย้งว่าการสร้างแนวร่วมที่กว้างขวางและครอบคลุมเป็นสิ่งสำคัญ หากเราตั้งเป้าที่จะพัฒนาทางเลือกที่มีแนวโน้มมากกว่าการครอบงำ การเสื่อมถอยอย่างช้าๆ และความสิ้นหวัง เขาเน้นย้ำถึงลักษณะการกระจายอำนาจของแนวทางของเขาในฐานะที่เป็นหนทางในการป้องกันความขัดแย้งที่ยืดเยื้อ (หรือ “สงครามระหว่างทุกฝ่ายต่อทุกฝ่าย”) และเพื่อหลีกเลี่ยงผลลัพธ์ที่มีเพียงผู้มีอำนาจมากที่สุดเท่านั้นที่มีอิทธิพล

เขาเน้นย้ำถึงความเสี่ยงที่เกี่ยวข้องกับหน่วยงานรวมศูนย์ที่ควบคุมปัญญาประดิษฐ์ “ตัวอย่างเช่น” เขาตั้งข้อสังเกต “การวิจัยเกี่ยวกับการเพิ่มประสิทธิภาพของไวรัส (การวิจัยการเพิ่มฟังก์ชันการทำงาน) ที่ได้รับทุนสนับสนุนจากรัฐบาลสำคัญๆ ทั่วโลกหลายแห่ง อาจกระตุ้นให้เกิดการระบาดใหญ่ของโควิด-19 ได้” เขาเน้นย้ำว่าการควบคุมจากส่วนกลางที่มากเกินไปมักนำไปสู่ผลลัพธ์ที่เลวร้าย แทนที่จะให้การป้องกันที่แข็งแกร่ง

ยุทธศาสตร์กลาโหม

ส่วนใหญ่เขาเน้นโพสต์ของเขาไปที่แนวคิดสองประการที่เกี่ยวข้องกับกฎหมายและกฎระเบียบเพื่อจัดการกับอันตรายที่อาจเกิดขึ้นจาก AI ที่มีความซับซ้อน แนวคิดหนึ่งคือความรับผิดชอบ: “การมอบหมายความรับผิดชอบให้กับผู้ใช้ทำให้เกิดแรงจูงใจที่สำคัญในการใช้ AI ในสิ่งที่ฉันเห็นสมควร” เขาอธิบาย โดยแนะนำว่าบุคคลที่ใช้ระบบ AI โดยตรงควรรับผิดชอบต่อความเสียหายใด ๆ ที่เกิดจากระบบเหล่านั้น

ในฐานะนักวิเคราะห์ ฉันตระหนักดีถึงความซับซ้อนที่เกี่ยวข้องกับการจัดการโมเดลโอเพ่นซอร์สหรือการใช้งานทางทหารที่ทรงพลัง แต่ฉันยืนยันว่าความรับผิดชอบยังคงเป็นวิธีการที่หลากหลายที่หลีกเลี่ยงจากการติดตั้งมากเกินไป นอกจากนี้ ฉันสนับสนุนความสำคัญของการให้ทั้งผู้ปรับใช้และนักพัฒนาต้องรับผิดชอบ โดยมีเงื่อนไขว่าจะไม่ขัดขวางความก้าวหน้าเชิงสร้างสรรค์ด้วยข้อจำกัดทางกฎหมายที่ไม่เหมาะสม

ในมุมมองของฉัน แม้แต่ผู้ใช้รายเล็กๆ ก็อาจไม่รับผิดชอบ แต่ผู้บริโภคทั่วไปของนักพัฒนา AI ก็ควรรับผิดชอบเช่นกัน สิ่งนี้สามารถทำหน้าที่เป็นพลังธรรมชาติในการขับเคลื่อนการวิจัย AI ที่อาจเป็นอันตรายไปสู่หนทางที่ปลอดภัยยิ่งขึ้น และส่งเสริมความโปร่งใสในการกำกับดูแลที่มากขึ้น

วิธีที่สองในการควบคุมของเขานั้นทะเยอทะยานอย่างกล้าหาญมากขึ้น แทนที่จะพึ่งพากฎเกณฑ์ความรับผิด เขาเสนอกลยุทธ์ที่กล้าหาญ: กลไก “หยุดชั่วคราว” ระดับโลกสำหรับฮาร์ดแวร์อุตสาหกรรมขนาดใหญ่ ในสถานการณ์สมมตินี้ อุปกรณ์คอมพิวเตอร์ที่ทรงพลังที่ใช้ในการพัฒนาหรือใช้งานโมเดล AI ที่เกือบจะอัจฉริยะจะต้องมีลายเซ็นการอนุมัติรายสัปดาห์จากองค์กรระหว่างประเทศต่างๆ แนวคิดนี้จินตนาการถึงชิปพิเศษภายในเครื่องเหล่านี้ซึ่งทำหน้าที่เป็นจุดควบคุม

เขาอธิบายว่าการกระทำนี้ดูเหมือนจะครอบคลุมทุกแง่มุมที่จำเป็นในการได้รับความได้เปรียบและการหลีกเลี่ยงอันตราย เนื่องจากการลดหรือชะลอพลังการคำนวณทั่วโลกลง 90-99% เป็นระยะเวลาหนึ่งถึงสองปีอาจทำให้มนุษยชาติมีเวลาที่จำเป็นในการตอบสนองหาก ภัยคุกคาม AI ที่ไม่สามารถควบคุมได้ก็ทวีความรุนแรงขึ้น

เขาชี้ให้เห็นว่าการหยุดฮาร์ดแวร์โดยสิ้นเชิงอาจเป็นเรื่องท้าทายที่จะหลีกเลี่ยง เนื่องจาก “เป็นไปไม่ได้ที่จะให้สิทธิ์อุปกรณ์หนึ่งทำงานต่อไปโดยไม่อนุญาตอุปกรณ์อื่นทั้งหมด” อย่างไรก็ตาม เขายังรับทราบถึงความท้าทายอันยิ่งใหญ่ในการโน้มน้าวประชาคมโลกให้นำกลยุทธ์ดังกล่าวไปใช้ โดยระบุว่าจะต้องใช้ “ความพยายามอย่างทุ่มเทในการร่วมมือกันระหว่างกัน” แทนที่จะพึ่งพาหน่วยงานที่ทรงพลังเพียงแห่งเดียวเพื่อปกครองเหนือคนอื่นๆ

ในทำนองเดียวกัน Buterin เชื่อมโยงความคิดของเขาเกี่ยวกับความเสี่ยงของ AI กับหลักการสำคัญของ Ethereum การเขียนโปรแกรมโอเพ่นซอร์ส และการบริหารแบบกระจายอำนาจ เขาเน้นย้ำว่าค่านิยมเดียวกันที่ขับเคลื่อน Ethereum และสกุลเงินดิจิทัลสามารถขยายไปสู่เวทีระดับโลกได้ โดยเฉพาะอย่างยิ่ง เขากล่าวว่าเครื่องมือสำหรับการทำงานร่วมกัน เช่น ตลาดการคาดการณ์ ซึ่งกำลังเติบโตบน Ethereum และเครือข่ายบล็อกเชนอื่น ๆ อาจทำหน้าที่เป็นการป้องกันที่แข็งแกร่งต่อข้อมูลที่ผิดและฮิสทีเรียในวงกว้าง เมื่อรวมเข้ากับเทคโนโลยีความเป็นส่วนตัว เช่น ZK-SNARK

นอกจากนี้เขายังมองว่า “การตรวจสอบอย่างเป็นทางการ แซนด์บ็อกซ์ ส่วนประกอบฮาร์ดแวร์ที่ปลอดภัย และเทคโนโลยีอื่นๆ” เป็นรากฐานที่สำคัญสำหรับการสร้างอุปสรรคด้านความปลอดภัยทางไซเบอร์ที่แข็งแกร่งซึ่งสามารถป้องกันไม่ให้ AI เข้าควบคุมระบบได้ เขาเตือนว่า AI ดังกล่าวอาจแทรกซึมเข้าไปในคอมพิวเตอร์ของเรา ก่อให้เกิดการระบาดใหญ่ในโลกดิจิทัล หรือหว่านความไม่ไว้วางใจในหมู่ผู้คน สิ่งเหล่านี้คือสถานการณ์ที่เป็นไปได้ของการเทคโอเวอร์ AI เขาเน้นย้ำถึงความสำคัญของความปลอดภัยทางชีวภาพ ความปลอดภัยทางไซเบอร์ และความปลอดภัยของข้อมูล ซึ่งเป็นองค์ประกอบสำคัญของโครงสร้างการป้องกันที่ชุมชน Ethereum สามารถมีส่วนร่วมในการสร้างได้

นอกจากนี้ เขายังสำรวจประเด็นว่าความคิดริเริ่มที่เป็นอิสระและเน้นความปลอดภัยเป็นหลักอาจได้รับเงินทุนได้อย่างไร ตอกย้ำความเชื่อของเขาใน “การระดมทุนที่แข็งแกร่งสำหรับสินค้าสาธารณะที่มีการกระจายอำนาจ” เพื่อเป็นแนวทางในการป้องกันวัคซีนโอเพ่นซอร์ส เทคโนโลยีชีวภาพ และเครื่องมือการเข้ารหัสไม่ให้ล้าสมัยเนื่องจาก ขาดผลกำไร เขาชี้ให้เห็นว่ากลไกเช่นการระดมทุนแบบ Quadratic ได้รับการออกแบบมาโดยเฉพาะสำหรับการระดมทุนในสินทรัพย์สาธารณะในลักษณะที่เป็นกลางและกระจายอำนาจมากที่สุดเท่าที่จะเป็นไปได้ แม้ว่าเขาจะรับทราบว่าระบบเก่ามักจะพัฒนาไปสู่การแข่งขันความนิยมที่สนับสนุนโครงการที่สะดุดตามากขึ้น

กลยุทธ์ใหม่ล่าสุดของเขา เรียกว่า “การระดมทุนแบบลึก” มีเป้าหมายเพื่อให้โมเดลปัญญาประดิษฐ์รวบรวมความคิดเห็นของมนุษย์ว่าโครงการใดควรได้รับการสนับสนุนทางการเงิน ซึ่งสามารถทำได้โดยใช้ “กราฟการพึ่งพา” เพื่อให้ผู้ร่วมให้ข้อมูลสามารถเข้าใจว่าแต่ละโครงการช่วยเสริมการทำงานของผู้อื่นได้อย่างไร เขาเน้นย้ำว่าด้วยการใช้การแข่งขันแบบเปิดระหว่างระบบ AI หลายระบบ เราจะลดอคติจากกระบวนการฝึกอบรมและการบริหารระบบใดระบบหนึ่งโดยเฉพาะ เขารู้สึกตื่นเต้นกับศักยภาพของสกุลเงินดิจิทัลในการระดมชุมชนให้หันมาใช้ความพยายามด้านนวัตกรรมดังกล่าว

บทความของผู้เขียนเน้นย้ำอยู่เสมอว่าการพึ่งพาแนวทางการป้องกันหรือรวมศูนย์เพียงอย่างเดียวอาจนำไปสู่หายนะได้ เขาให้เหตุผลว่าปัญหาเกี่ยวกับความพยายามที่มีจุดมุ่งหมายเพื่อชะลอความก้าวหน้าทางเทคโนโลยีหรือการหดตัวทางเศรษฐกิจนั้นอยู่ในสองประเด็นหลัก ประการแรก การพยายามที่จะหยุดการวิจัยโดยสิ้นเชิงจะก่อให้เกิดความเสียหายมหาศาลต่อมนุษยชาติ และประการที่สอง มันจะไม่ขัดขวางผู้กระทำความผิดจากกิจกรรมของพวกเขาต่อไป

นอกจากนี้เขายังเตือนถึงกลยุทธ์ที่อาศัย “แก่นแท้” มากเกินไป โดยใช้การยกเลิกการแพร่เชื้อโควิดในอากาศครั้งแรกขององค์การอนามัยโลก เพื่อเป็นตัวอย่างว่าองค์กรขนาดใหญ่สามารถทำผิดพลาดร้ายแรงได้อย่างไร เขาเชื่อมั่นว่าวิธีการกระจายอำนาจจะมีประสิทธิภาพมากขึ้นในการจัดการกับความเสี่ยงที่เกิดจากศูนย์กลางเอง

ผู้สร้าง Ethereum สรุปโดยสนับสนุนให้ผู้สนับสนุนรับรู้ว่าเทคโนโลยีอาจเป็นทั้งอันตรายและปลดปล่อย ขึ้นอยู่กับการใช้งาน เขาเน้นย้ำว่า “เราในฐานะมนุษย์เป็นดาวที่ส่องแสง” โดยให้เหตุผลว่าความร่วมมือระดับโลก ความร่วมมือแบบโอเพ่นซอร์ส และแนวทางเชิงรุกเพื่อความก้าวหน้า มีความสำคัญอย่างยิ่งต่อการก้าวไปสู่ศตวรรษแห่งความก้าวหน้าที่อาจเกิดขึ้น เช่น AI ที่ชาญฉลาด วัคซีนที่ก้าวล้ำ และนวัตกรรมเทคโนโลยีความปลอดภัย

พูดง่ายๆ ก็คือ ผู้ร่วมก่อตั้ง Ethereum ระบุว่าการเข้าถึงเครื่องมือทำให้เราสามารถปรับเปลี่ยนทั้งตัวเราเองและสิ่งแวดล้อมได้ และแนวคิดของ ‘การป้องกัน’ ในที่นี้หมายถึงการดำเนินการดังกล่าวโดยไม่ละเมิดเสรีภาพของผู้อื่น นอกจากนี้เขายังเน้นย้ำอีกว่าการสร้างศตวรรษที่ 21 ที่เจริญรุ่งเรืองซึ่งปกป้องความอยู่รอด เสรีภาพ และความเป็นอิสระของมนุษย์ในขณะที่เราผจญภัยไปในอวกาศนั้นเป็นงานที่ลำบาก อย่างไรก็ตาม เขาแสดงความมั่นใจในความสามารถของเราที่จะประสบความสำเร็จ

ณ เวลานี้ Ethereum ซื้อขายที่ 3,639 ดอลลาร์

2025-01-06 16:42