คุณคงเคยอ่านเกี่ยวกับเรื่องนี้แล้ว Elon Musk เรียกปัญญาประดิษฐ์ว่าเป็นภัยคุกคามที่ใหญ่ที่สุด Bill Gates และนักคิดรายใหญ่คนอื่นๆ เห็นด้วยกับเขา ในฐานะคนที่ลงมือทำจริง เขากำลังทำอะไรบางอย่างเกี่ยวกับเรื่องนี้ และได้ก่อตั้งองค์กรที่ไม่แสวงหากำไรที่เรียกว่า "Open AI" ร่วมกับคนอื่นๆ
Open AI ได้รวบรวมผู้มีความสามารถที่ดีที่สุดในชุมชน Deep Learning พวกเขาไปหา Joshua Benglio ซึ่งเป็น "บิดาผู้ก่อตั้ง" ของ Deep Learning เพียงคนเดียวที่ไม่ได้ทำงานให้กับบริษัทซอฟต์แวร์ และขอให้เขาระบุรายชื่อผู้ที่มีความสามารถดีที่สุดที่ทำงานเกี่ยวกับ Deep Learning พวกเขายื่นข้อเสนอให้ 10 คนและ 9 คนตอบรับให้เข้าร่วม
เมื่อวานนี้ องค์กรไม่แสวงผลกำไรที่พวกเขาก่อตั้งขึ้นได้เปิดตัวชุดเครื่องมือชุดแรก มันถูกเรียกว่า "GYM" และมีเป้าหมายที่จะช่วยแก้ปัญหาที่ยากที่สุดถัดไปในเส้นทางการเรียนรู้ของเครื่อง: การเรียนรู้แบบไม่มีผู้ดูแล
โมเดล Deep Learning ส่วนใหญ่ที่ใช้อยู่ในปัจจุบันได้รับการฝึกอบรมอย่างรอบคอบจากผู้สร้าง พวกเขาได้รับชุดข้อมูลที่มนุษย์ตรวจสอบก่อนที่จะป้อนให้กับแบบจำลอง เพื่อให้แน่ใจว่าแบบจำลองมีความถูกต้อง แต่การสร้างชุดข้อมูลเหล่านี้เป็นงานจำนวนมาก
เราใช้โมเดลสองโมเดลเหล่านี้ใน "โครงการ" ของเรา: Neural Talk ของ Andrej Karpathy และโมเดล ImageNet ของ Google เราใช้อัลกอริธึมเหล่านี้แบบคงที่ ซึ่งหมายความว่าเราจะไม่ป้อนกลับการแก้ไขของผู้ใช้ของเรา ให้ฉันอธิบายด้วยตัวอย่าง:
หน้าจอด้านบนแสดงการตีความภาพนกฮูกสองแบบข้างรั้ว NeuralTalk บรรยายภาพว่า:”นกกำลังนั่งอยู่บนกิ่งก้านของต้นไม้” อัลกอริทึมของ Google ระบุได้อย่างถูกต้องว่าเป็นนกฮูกสีเทาตัวใหญ่ แม้จะตั้งชื่อทางวิทยาศาสตร์ว่า Strix เนบูโลซา แต่คำบรรยายเหล่านี้มีปัญหา อัลกอริธึมแรกตีความรั้วที่มีไอวี่เป็นต้นไม้ ประการที่สองไม่ได้พิจารณาด้วยซ้ำ
ช่องทำเครื่องหมายอนุญาตให้ผู้ใช้ "ยกเลิกการเลือก" ชื่อที่ไม่ตรงกับรูปภาพ และยังป้อนคำบรรยายใหม่ได้ด้วย ในโลกอุดมคติ ผู้คนจะประพฤติตนอย่างมีอารยธรรมและป้อนคำนามและคำบรรยายที่เหมาะสม
ไม่กี่ชั่วโมงหลังจากที่เพจของเราเผยแพร่ เราก็มีภาษาที่หยาบคายในข้อมูลของเราแล้ว
เป็นธรรมชาติของมนุษย์ที่จะพยายามหลอกหรือหลอกลวงสิ่งอื่น ใครก็ตามที่ได้พยายามเรียนรู้ภาษาที่สองจะรู้ดี คำแรกที่บางคนพยายามสอนคุณอย่างไม่เห็นแก่ตัวคือคำหยาบคาย และพวกเขาจะโดนเตะเมื่อคุณใช้มันดูถูกใครบางคนโดยที่คุณไม่รู้ตัว
ผู้คนต่างใช้คำที่ไม่สามารถพิมพ์เพื่อตั้งชื่อวัตถุในรูปภาพในระบบของเราได้แล้ว เราต้องไปติดตั้งตัวกรองเพื่อหลีกเลี่ยงการใช้คำบางคำ แต่นี่ไม่ใช่วิธีแก้ปัญหาที่ถูกต้อง วิธีแก้ปัญหาที่ถูกต้องคือการมีโมเดลที่รู้ว่าเมื่อใดที่รายการบางรายการที่ทำโดยผู้ใช้กำลังพยายามหลอกและเพิกเฉยต่อรายการเหล่านั้น และเนื่องจากเรายังไม่มีวิธีแก้ปัญหาที่ถูกต้อง นี่คือเหตุผลว่าทำไมเราจึงใช้โมเดลในโหมดคงที่ และไม่ได้ป้อนกลับอินพุตจากผู้ใช้ของเรา ซึ่งหมายความว่าโมเดลของเราไม่ได้เรียนรู้
Open AI Gym เป็นแพลตฟอร์มสำหรับการพัฒนาและเปรียบเทียบ "อัลกอริธึมการเรียนรู้แบบเสริมกำลัง" สิ่งนี้จะช่วยให้ชุมชนรับมือกับสิ่งกีดขวางบนถนนถัดไปในแผนงานด้านเทคโนโลยี
แต่การวางรากฐานโดยกลุ่ม OpenAI นี้เป็นมากกว่าก้าวต่อไปในชุมชน Machine Learning ให้ฉันอธิบายว่าทำไม:
Tim Urban ผู้ไม่ใช่คนพูดน้อย ใส่ไว้อย่างดีในการรอคอยแต่ทำไมต้องโพสต์เกี่ยวกับ "การปฏิวัติปัญญาประดิษฐ์" (คำเตือน ยาวและน่าสนใจมาก ). ให้ฉัน ขโมย-ยืม กราฟจากโพสต์ของเขา บันไดแห่งปัญญา:
ภาพวาดนี้บอกอะไรได้มากเกี่ยวกับวิธีที่เราเห็นสิ่งมีชีวิตที่ฉลาดน้อยกว่าเรา มีข้อสังเกตที่น่าสนใจบางประการ:
- เราเคารพชีวิตของสัตว์เลี้ยงลูกด้วยนมที่ฉลาดที่สุด นี่คือเหตุผลที่เราปกป้องโลมา กอริลล่า และทำไมเราไม่กินสัตว์เลี้ยงของเรา
- ขณะที่สัตว์เคลื่อนตัวลงมาด้านล่างของบันได เราก็เริ่มกินพวกมันและใช้พวกมันเพื่อประโยชน์ของเรา
- แมลงอาจได้รับการรักษา "พื้นรองเท้า" ทั้งนี้ขึ้นอยู่กับความเชื่อของคุณ
สำหรับฉันส่วนที่น่าสนใจเกี่ยวกับการวาดภาพคือพื้นที่เหนือบันได นี่คือพื้นที่ที่จะถูกครอบครองโดยสิ่งมีชีวิตที่ชาญฉลาดในอนาคต ในการสนทนาหลายครั้งที่ฉันมีเกี่ยวกับเรื่องนี้กับเพื่อน ๆ เรามักจะจบลงด้วยสถานการณ์ "ตู้ปลา" ในสถานการณ์สมมตินี้ สิ่งมีชีวิตที่มีสติปัญญาสูงกว่าจะรักษามนุษย์ไว้เหมือนกับที่เราเลี้ยงปลาไว้ในพิพิธภัณฑ์สัตว์น้ำของเรา
เราไม่รู้จริงๆ มากนักว่าปลาของเรากำลังคิดอะไรอยู่ และนอกเหนือจากพฤติกรรมพื้นฐานแล้ว เราก็ไม่สามารถโต้ตอบกับพวกมันได้จริงๆ แน่นอนว่านี่เป็นการทำให้เข้าใจง่ายเกินไป เนื่องจากมีหลายสถานการณ์ว่าการปฏิวัติปัญญาประดิษฐ์จะดำเนินไปอย่างไร และนี่คือสิ่งที่เป็นแรงบันดาลใจให้ Elon Musk สร้าง Open AI
ผู้เล่นรายใหญ่ในการปฏิวัติ Deep Learning คือบริษัทซอฟต์แวร์รายใหญ่อย่างไม่คาดคิดที่เราทุกคนรู้จัก: Google, Facebook, Microsoft, IBM, Baidoo และในขณะที่กระแสหลักในปัจจุบันของชุมชนปัญญาประดิษฐ์คือการแบ่งปันทุกสิ่งที่พวกเขาทำอยู่ แต่ก็ไม่ชัดเจนว่า:
ก) พวกเขาจะทำมันต่อไป
B) พวกเขาแบ่งปันทุกอย่างจริงๆ
เมื่อไม่กี่วันก่อน ฉันได้ดู "การนำเสนอที่น่าสนใจมาก" โดยเพื่อนของฉัน Gideon Rosenblatt ในช่วงท้ายของการนำเสนอ เขาได้สัมผัสถึงปัญหา "เครื่องจักรสร้างกำไรที่สมบูรณ์แบบ" องค์กรสมัยใหม่ส่วนใหญ่ให้ความสำคัญกับการเพิ่มมูลค่าผู้ถือหุ้นให้สูงสุด พวกเขาใช้วิทยาการหุ่นยนต์และปัญญาประดิษฐ์เพื่อปรับปรุงความได้เปรียบทางการแข่งขัน ลดต้นทุน และลดงานใดๆ ที่สามารถทำได้ด้วยเครื่องจักร นี่เป็นเพียงกฎของตลาดและไม่มีทางที่จะเปลี่ยนแปลงได้
ปัญญาประดิษฐ์ขั้นสูงจะถูกกำหนดโดยสภาพแวดล้อมของเรา กฎหมายของเรา ระบบเศรษฐกิจของเรา หากเราปล่อยให้งานนี้ตกเป็นของผู้เล่นรายใหญ่ในปัจจุบัน ผลลัพธ์อาจไม่เป็นไปตามมนุษยธรรมอย่างที่เราหวังไว้
บริษัทเหล่านั้นบางแห่งนำโดยนักอุดมคติ Google มีมนต์ "ไม่ชั่วร้าย" Mark Zuckerberg ไม่เน้นเรื่องรายได้ ฉันเป็นคนมองโลกในแง่ดีและเชื่อว่าพวกเขาจะเป็นผู้กำหนดทิศทางการพัฒนาปัญญาประดิษฐ์ในบริษัทของตน แต่การมีองค์กรไม่แสวงผลกำไรอย่าง Open AI เข้ามาทำหน้าที่ถ่วงดุลและควบคุมดูแลพวกเขาก็เป็นเรื่องดี
นี่คือเหตุผลที่ฉันเชื่อว่าเป็นเรื่องสำคัญที่ Open AI ได้ตัดสินใจที่จะมุ่งเน้นความพยายามในการ "สร้าง" ก้าวต่อไปของปัญญาประดิษฐ์ มันเป็นการเคลื่อนไหวที่กล้าหาญและเล่นได้ดี
หากคุณต้องการลองเรื่องราวของเราในการสร้างโมเดลคำบรรยายภาพ ให้ใช้ลิงก์นี้» อย่าสอนแต่คำหยาบคาย ;-)
