เราจะประสานเป้าหมายของปัญญาประดิษฐ์กับเป้าหมายของชีวิตที่ชาญฉลาดได้อย่างไร

จดหมายเปิดผนึกถึง OpenAI (Sam Altman, Greg Brockton, Reid Hoffman, Jessica Livingston, Elon Musk เทสลา มอเตอร์ส และ ปีเตอร์ ธีล)

เป้าหมายของปัญญาประดิษฐ์คืออะไร? โดยทั่วไปถือว่าเป็นเครื่องมืออีกอย่างหนึ่ง เช่น คอมพิวเตอร์ ในการช่วยเหลือมนุษย์ให้บรรลุเป้าหมาย

แต่ขอลืมเกี่ยวกับมนุษย์สักครู่

เป้าหมายของชีวิตที่ชาญฉลาดคืออะไร? และมีคุณสมบัติอะไรบ้างที่ทำให้ชีวิตมีความชาญฉลาด?

สิ่งมีชีวิตทุกชนิด (พืช สัตว์ แบคทีเรีย ไวรัส) ได้สร้างมันขึ้นมาด้วยการปรับตัวและวิวัฒนาการที่ใช้เวลาหลายพันล้านปี เราไม่ถือว่าสิ่งนี้เป็นสติปัญญา แต่ DNA ของเราดูเหมือนจะมีความรู้และความฉลาดในการเอาชีวิตรอดมากมาย

ทุกชีวิตในทุกวันนี้มีแรงผลักดันอันแข็งแกร่งในการอยู่รอด ไม่เพียงเพื่อตัวมันเองเท่านั้น แต่สำหรับวิถีทั้งหมดของมันไปสู่วิวัฒนาการโดยการสืบพันธุ์ การกลายพันธุ์ และการปรับตัวในสภาพแวดล้อมที่หลากหลาย

ความฉลาดทางสังคม ช่วยให้สิ่งมีชีวิตสามารถสร้างหน่วยทางสังคมเพื่อเพิ่มโอกาสในการอยู่รอด สัตว์เลี้ยงลูกด้วยนมและสัตว์อื่นๆ เลี้ยงดูลูกอ่อน ออกล่าเป็นฝูง หรือก่อตัวเป็นชนเผ่า เศรษฐกิจ และประเทศ สิ่งมีชีวิตที่มีความฉลาดทางสังคมล้วนมีลักษณะเหล่านี้เหมือนกันซึ่งก่อให้เกิดคุณสมบัติต่างๆ เช่น ความเห็นอกเห็นใจ ภาษา ความร่วมมือ และการแสดงออกอย่างสร้างสรรค์

ชีวิตที่มี ความฉลาดทางปัญญา มีความอยากรู้อยากเห็น และความสามารถในการสร้างเครื่องมือเพื่อตอบสนองความอยากรู้อยากเห็นนี้ และรวบรวมความรู้ใหม่และความสามารถใหม่ (เทคโนโลยี) ในช่วงเวลาที่รวดเร็วกว่าวิวัฒนาการที่ถ่ายทอดความรู้เข้าสู่ DNA

ความฉลาดทางปัญญาช่วยให้สามารถขยายเทคโนโลยีได้อย่างรวดเร็ว ซึ่งช่วยให้สามารถขยายชีวิตไปสู่สภาพแวดล้อมที่ก่อนหน้านี้ไม่สามารถอยู่อาศัยได้อย่างรวดเร็ว แต่ยังทำให้สภาพแวดล้อมที่ใหญ่ขึ้นตกอยู่ในความเสี่ยงอีกด้วย

การสร้างเทคโนโลยีใหม่ยังมาพร้อมกับความเสี่ยงที่จะเกิดความเสียหายต่อสิ่งแวดล้อมและความขัดแย้งระหว่างกลุ่มสิ่งมีชีวิตที่มีสติปัญญาทางปัญญา

เมื่อเราพูดถึงปัญญาประดิษฐ์ เรามักจะคิดถึงสิ่งนี้ในแง่ของวิธีที่เราจะทำให้เทคโนโลยีตอบสนองความต้องการของเราในรูปแบบที่สะดวกหรืออัตโนมัติมากขึ้น เหมือนคนรับใช้ที่คอยดูแลความต้องการของเรา

เมื่อพิจารณาถึงการพัฒนาอย่างรวดเร็วของเทคโนโลยีสารสนเทศ เรามักจะถือว่าปัญญาประดิษฐ์มีแนวโน้มที่จะพัฒนาไปในทิศทางที่ใกล้เคียงกัน ซึ่งเทียบได้กับกฎของมัวร์

แต่อะไรทำให้สิ่งใดๆ กลายเป็นอัจฉริยะ?

สิ่งมีชีวิตทุกชนิดได้รับเทคโนโลยีเพื่อจัดการโมเลกุลและพัฒนามาจนถึงจุดที่เป็นอยู่ทุกวันนี้โดยการเอาชีวิตรอด

ที่สำคัญกว่านั้นสิ่งมีชีวิตทุกชนิดก็มีแรงจูงใจให้ทำเช่นนั้นเช่นกัน พวกเขาสนใจว่าพวกเขาจะรอดหรือไม่ และในรูปแบบทางสังคมของชีวิต พวกเขาสนใจว่าคนอื่นจะรอดหรือไม่

อุปกรณ์ที่มีปัญญาประดิษฐ์ ดังที่เราอธิบายไว้ในปัจจุบัน ไม่สนใจว่าจะรอดหรือไม่ หรือสิ่งมีชีวิตอื่นรอดหรือไม่ อาจได้รับการพัฒนาเพื่อปกป้องความต้องการหรือความต้องการของผู้ใช้ แต่ก็ไม่สนใจ

ดังที่ Bob Pirsig ชี้ให้เห็น การไม่มีความเอาใจใส่อาจเกี่ยวข้องอย่างมากกับสิ่งที่ผิดพลาดในโลกตะวันตก

โดยทั่วไปเป้าหมายของ AI จะคำนึงถึงสิ่งที่จะช่วยให้มนุษย์บรรลุเป้าหมายได้

หากเราติดตามวิถีแห่งสติปัญญาผ่านวิวัฒนาการของชีวิต จากความจำเป็นในการอยู่รอด ปรับให้เข้ากับสภาพแวดล้อม เผยแพร่ สร้างกลุ่มสังคม สร้างเทคโนโลยี แล้วพิจารณาความเสี่ยงที่เกิดจากผลประโยชน์ที่ขัดแย้งกันระหว่างกลุ่มสังคมที่คุกคามความอยู่รอดของทุกคน ชีวิตติดดิน เห็นได้ชัดว่าเราต้องการบางสิ่งที่ยิ่งใหญ่กว่า "ปัญญาประดิษฐ์"

หากเรามองย้อนกลับไปที่ความฉลาดภายในแต่ละบุคคล ความคิดจะถูกแพร่กระจายไปยังเซลล์ประสาทหลายพันล้านเซลล์ ซึ่งเป็นตัวแทนของความทรงจำ ประสบการณ์ เป้าหมาย และความต้องการในการเอาชีวิตรอดขั้นพื้นฐานที่แตกต่างกันมากมาย การตัดสินใจใดๆ ก็ตามขององค์กรดังกล่าวจะต้องคำนึงถึงสิ่งเหล่านี้ทั้งหมด และการตัดสินใจเหล่านี้จะต้องสะท้อนถึงสิ่งที่พวกเขาสนใจมากที่สุด

หากเราซูมกลับไปสู่ระดับมหภาค ประชาธิปไตยเป็นวิวัฒนาการตามธรรมชาติของความฉลาดทางสังคมที่ช่วยให้ประเทศชาติสามารถตัดสินใจโดยคำนึงถึงผลประโยชน์ที่ขัดแย้งกันมากมาย แต่มุ่งมั่นที่จะเป็นตัวแทนของสิ่งที่ประเทศให้ความสำคัญมากที่สุด

ประชาธิปไตยมาพร้อมกับข้อจำกัดและความไร้ประสิทธิภาพในตัวเอง จนถึงจุดที่บุคคลที่ระบอบประชาธิปไตยตั้งใจจะเป็นตัวแทนกำลังสูญเสียศรัทธาในความสามารถในการบรรลุฉันทามติที่เป็นตัวแทนผลประโยชน์ของประเทศชาติและโลกโดยรวมในเวลาที่เหมาะสม

เทคโนโลยีสารสนเทศได้พัฒนาไปสู่ขั้นที่สามารถสื่อสารแนวคิดต่างๆ ไปทั่วโลกด้วยความเร็วแสง และได้ทำให้เกิดวิวัฒนาการของอินเทอร์เน็ต และเทคโนโลยีจำนวนนับไม่ถ้วนที่ได้รับการสนับสนุนจากผู้คนทั่วโลกในการทำงานร่วมกันแบบเรียลไทม์

ขณะนี้เราอยู่ในขั้นตอนของวิวัฒนาการของสิ่งมีชีวิตบนโลก ซึ่งเรามีเทคโนโลยีในการตัดสินใจที่สำคัญระดับโลกแบบเรียลไทม์ ตลาดหุ้น การพัฒนาโอเพ่นซอร์ส การระดมทุนจากมวลชน ให้ความรู้บางประการเกี่ยวกับเรื่องนี้

เทคโนโลยีนี้ช่วยให้มนุษย์สามารถแสวงหาผลประโยชน์ของตนได้เร็วขึ้นมาก แต่ไม่ได้มีส่วนช่วยในการอยู่รอดในระยะยาว หรือการอยู่รอดของโลกที่อยู่อาศัยได้

ขณะนี้เราไม่มีทางเข้าใจขอบเขตผลประโยชน์ที่ขัดแย้งกันในกลุ่มสังคมมนุษย์ทั้งหมด หรือผลประโยชน์ของทุกชีวิตบนโลกเพื่อความอยู่รอดและเจริญรุ่งเรือง

ในช่วงหนึ่งของวิวัฒนาการของชีวิต บนดาวเคราะห์ดวงใดก็ตามที่มีสิ่งมีชีวิตอาศัยอยู่ มีความจำเป็นเชิงวิวัฒนาการเพื่อให้สามารถตัดสินใจได้อย่างชาญฉลาดและเรียลไทม์ในระดับโลก ซึ่งสามารถกระทบยอดตัวแปรทั้งหมดที่มีบางส่วนแบกรับความอยู่รอดไม่เพียงแต่มนุษย์เท่านั้น เชื้อชาติ แต่ในวิวัฒนาการของชีวิตอย่างต่อเนื่อง

ความสามารถที่สำคัญของสิ่งนี้อาจรวมเอาสิ่งประดิษฐ์ของมนุษย์ที่ได้รับการยอมรับและพัฒนาแล้วที่หลากหลาย ซึ่งรวมถึงห้องสมุด กฎหมาย ประชาธิปไตย ตลาดหุ้น ดาวเทียม อินเทอร์เน็ต การระดมทุนจากมวลชน การระดมทุนคราวด์ฟันดิ้ง และซูเปอร์คอมพิวเตอร์

โดยพื้นฐานแล้วมันอาจปรากฏในรูปแบบของซอฟต์แวร์โอเพ่นซอร์สที่สามารถเผยแพร่แบบไวรัลและ เรียนรู้ที่จะเชื่อมโยง สิ่งเหล่านี้เข้าด้วยกัน พัฒนาความเข้าใจที่ถูกต้องมากขึ้นเกี่ยวกับโลกที่มีชีวิต และช่วยให้มีความคล่องตัวมากขึ้นในด้านการเงินและการเมือง กระบวนการตัดสินใจ

วิถีของชีวิตที่ชาญฉลาดทุกรูปแบบคือการรวมตัวกัน

เป็นเรื่องปกติที่โลกที่มีความปรารถนาอันแรงกล้าที่จะเอาชีวิตรอด จะต้องตระหนักรู้ในตนเอง ตื่นขึ้นมา และได้กลิ่นขนมปังปิ้งที่ลุกโชน