การเรียนรู้แบบมีผู้สอนและการเรียนรู้แบบไม่มีผู้ดูแลโดยพิจารณาจากการเปลี่ยนแปลงเฟสของระบบประสาทออปติคัลทั้งหมด

เมื่อเร็ว ๆ นี้ Nature ได้เผยแพร่งานวิจัยใหม่โดย IBM โครงข่ายประสาทเทียมระดับลึก "ออปติคอลทั้งหมด" ที่สร้างขึ้นด้วยอุปกรณ์ออพติคอลสามารถประหยัดพลังงานได้มากกว่าวิธีการประมวลผลแบบเดิม และมีข้อดีคือ ความสามารถในการปรับขนาด ไม่มีการแปลงโฟโตอิเล็กทริก และแบนด์วิธสูง การค้นพบนี้อาจวางรากฐานสำหรับการเกิดขึ้นของเครื่องเร่งโครงข่ายประสาทตาแบบแสงในอนาคต ใยแก้วนำแสงสามารถส่งข้อมูลไปทั่วโลกในรูปแบบของแสง ซึ่งกลายเป็นเสาหลักของเทคโนโลยีโทรคมนาคมสมัยใหม่ อย่างไรก็ตาม หากจำเป็นต้องวิเคราะห์ข้อมูลการส่งผ่านเหล่านี้ ควรแปลงจากสัญญาณแสงเป็นสัญญาณอิเล็กทรอนิกส์ จากนั้นจึงประมวลผลด้วยอุปกรณ์อิเล็กทรอนิกส์ ในบางครั้ง ทัศนศาสตร์ถือเป็นพื้นฐานของเทคโนโลยีคอมพิวเตอร์ที่มีศักยภาพมากที่สุดในอนาคต แต่เมื่อเปรียบเทียบกับความก้าวหน้าอย่างรวดเร็วของคอมพิวเตอร์อิเล็กทรอนิกส์ ความสามารถในการแข่งขันของเทคโนโลยีคอมพิวเตอร์เชิงแสงยังไม่เพียงพออย่างเห็นได้ชัด อย่างไรก็ตาม ในช่วงไม่กี่ปีที่ผ่านมา อุตสาหกรรม ได้ให้ความสำคัญกับต้นทุนของพลังงานการประมวลผลมากขึ้นเรื่อยๆ ดังนั้นระบบคอมพิวเตอร์แบบออปติคอลจึงดึงดูดความสนใจมากขึ้นเรื่อยๆ อีกครั้ง การประมวลผลแบบออปติคัลมีการใช้พลังงานต่ำ และสามารถใช้เป็นฮาร์ดแวร์เร่งความเร็วพิเศษสำหรับอัลกอริธึม AI เช่น Deep Neural Network (DNN) เมื่อเร็ว ๆ นี้ Feldmann และคนอื่น ๆ ได้เผยแพร่ความคืบหน้าล่าสุดของ "การใช้งานเครือข่ายออปติกทั้งหมด" ในวารสาร Nature

โครงข่ายประสาทเทียมระดับลึกประกอบด้วยเซลล์ประสาทเทียมหลายชั้นและไซแนปส์เทียม ความแรงของการเชื่อมต่อเหล่านี้ เรียกว่าน้ำหนักเครือข่าย อาจเป็นค่าบวกซึ่งบ่งบอกถึงการกระตุ้นของเส้นประสาท หรือค่าลบซึ่งบ่งชี้ถึงการยับยั้งของเซลล์ประสาท เครือข่ายจะพยายามอย่างดีที่สุดเพื่อลดความแตกต่างระหว่างเอาต์พุตจริงและเอาต์พุตที่คาดหวัง เพื่อเปลี่ยนน้ำหนักของไซแนปส์เพื่อดำเนินการต่างๆ เช่น การจดจำรูปภาพ โดยปกติแล้ว CPU และตัวเร่งฮาร์ดแวร์อื่นๆ มักจะใช้สำหรับการคำนวณ DNN การฝึกอบรม DNN สามารถใช้ชุดข้อมูลที่รู้จัก และ DNN ที่ได้รับการฝึกอบรมสามารถใช้เพื่ออนุมานข้อมูลที่ไม่รู้จักในงานได้ แม้ว่าการคำนวณจะมีปริมาณมาก แต่การดำเนินการคำนวณที่หลากหลายจะไม่สูงมาก เนื่องจากการดำเนินการ "การคูณและการสะสม" มีความโดดเด่นในน้ำหนักซินแนปติกและการกระตุ้นของเส้นประสาทจำนวนมาก DNN ยังคงสามารถทำงานได้ตามปกติเมื่อความแม่นยำในการคำนวณต่ำ ดังนั้นเครือข่าย DNN จึงแสดงถึงโอกาสที่เป็นไปได้สำหรับเทคโนโลยีคอมพิวเตอร์ที่ไม่ใช่แบบดั้งเดิม นักวิจัยกำลังพยายามสร้างตัวเร่งความเร็ว DNN โดยอิงจากอุปกรณ์หน่วยความจำแบบไม่ลบเลือนใหม่ อุปกรณ์ประเภทนี้ยังสามารถบันทึกข้อมูลเมื่อตัดแหล่งจ่ายไฟ และปรับปรุงความเร็วและประสิทธิภาพการใช้พลังงานของ DNN ผ่านคอมพิวเตอร์อิเล็กทรอนิกส์แบบอะนาล็อก

แล้วทำไมไม่ลองใช้เลนส์ดูล่ะ? ส่วนประกอบนำแสงสามารถบรรจุข้อมูลจำนวนมากได้ ไม่ว่าจะเป็นเส้นใยนำแสงสำหรับโทรคมนาคมหรือท่อนำคลื่นบนชิปโฟโตนิก ในท่อนำคลื่นชนิดนี้ เทคโนโลยี "มัลติเพล็กซ์การแบ่งความยาวคลื่น" สามารถใช้เพื่อให้แสงความยาวคลื่นต่างๆ มากมายแพร่กระจายร่วมกันได้ แต่ละความยาวคลื่นสามารถปรับได้ (เปลี่ยนแปลงในลักษณะที่สามารถส่งข้อมูลได้) ในอัตราที่ถูกจำกัดโดยแบนด์วิธที่มีอยู่ซึ่งเกี่ยวข้องกับอิเล็กตรอนไปจนถึงการปรับด้วยแสงและการตรวจจับออปโตอิเล็กทรอนิกส์ 1 วงจรเซลล์ประสาทพัลส์แสงทั้งหมด การใช้ตัวสะท้อนทำให้สามารถเพิ่มหรือลบความยาวคลื่นเดี่ยวได้ เช่นเดียวกับการขนถ่ายรถบรรทุก สามารถสร้างอาร์เรย์น้ำหนักซินแนปติกของเครือข่าย DNN ได้โดยใช้เครื่องสะท้อนเสียงแบบวงแหวนไมครอน เครื่องสะท้อนเสียงสามารถมอดูเลตด้วยความร้อน, ปรับด้วยไฟฟ้าออปติก หรือมอดูเลตโดยวัสดุเปลี่ยนเฟส วัสดุเหล่านี้สามารถสลับระหว่างเฟสอสัณฐานและเฟสผลึกได้ และความสามารถในการดูดกลืนแสงของวัสดุที่แตกต่างกันจะแตกต่างกันอย่างมาก ภายใต้สภาวะที่เหมาะสม การใช้พลังงานของการคูณและการสะสมจะต่ำมาก

ทีมวิจัยของ Feldmann ได้ติดตั้ง "โครงข่ายประสาทเทียมแบบออปติกทั้งหมด" บนชิปโฟโตนิกระดับมิลลิเมตร ซึ่งไม่ได้ใช้การแปลงโฟโตอิเล็กทริกในเครือข่าย ข้อมูลอินพุตจะถูกมอดูเลตทางอิเล็กทรอนิกส์ตามความยาวคลื่นที่แตกต่างกัน และถูกฉีดเข้าไปในเครือข่าย แต่ข้อมูลทั้งหมดจะยังคงอยู่ในชิป วัสดุเปลี่ยนเฟสแบบรวมใช้เพื่อปรับน้ำหนักซินแนปติกและรวมเซลล์ประสาท การสร้างพัลส์ 2 อันและการทำงานของเซลล์ประสาทเทียมผู้เขียนสาธิตการเรียนรู้แบบมีผู้สอนและแบบไม่มีผู้ดูแลในขนาดเล็กนั่นคือการฝึกอบรมโดยใช้ข้อมูลที่มีป้ายกำกับ (การเรียนรู้ DNN) และการฝึกอบรมโดยใช้ข้อมูลที่ไม่มีป้ายกำกับ (คล้ายกับการเรียนรู้ของมนุษย์)

มะเดื่อ 3 การเรียนรู้แบบมีผู้สอนและการเรียนรู้แบบไม่มีผู้ดูแลโดยอิงจากเฟสจะเปลี่ยนระบบประสาทออปติคอลทั้งหมด เนื่องจากการแสดงออกของน้ำหนักเกิดขึ้นได้จากการดูดกลืนแสง น้ำหนักที่เป็นลบจึงจำเป็นต้องมีสัญญาณไบแอสที่ใหญ่กว่า ซึ่งไม่สามารถกระตุ้นวัสดุการเปลี่ยนเฟสได้ อีกวิธีหนึ่งคือการใช้อุปกรณ์ของมัคเซนเดอร์อินเตอร์เฟอโรมิเตอร์เพื่อแบ่งท่อนำคลื่นเดี่ยวออกเป็นสองแขนแล้วรวมเข้าด้วยกันใหม่ ในเวลานี้ ปริมาณแสงที่ส่องผ่านขึ้นอยู่กับความแตกต่างของเฟสแสงระหว่างเส้นทางการแพร่กระจายทั้งสองเส้นทาง อย่างไรก็ตาม อาจเป็นเรื่องยากที่จะรวมวิธีการนี้เข้ากับมัลติเพล็กซ์แบบแบ่งความยาวคลื่น เนื่องจากแขนของอินเตอร์เฟอโรมิเตอร์แต่ละตัวจำเป็นต้องแนะนำความแตกต่างของเฟสที่เหมาะสมสำหรับแต่ละความยาวคลื่น การใช้งาน DNN ทางแสงทั้งหมดยังคงเผชิญกับความท้าทายที่สำคัญ ตามหลักการแล้ว การใช้พลังงานทั้งหมดอาจต่ำ และมักจะต้องใช้พลังงานความร้อนเพื่อปรับและรักษาความแตกต่างของเฟสแสงในแขนอินเตอร์เฟอโรมิเตอร์ Mach Zehnder แต่ละตัว

มะเดื่อ สถาปัตยกรรมที่ปรับขนาดได้ 4 ประการของโครงข่ายประสาทเทียมแบบออปติกทั้งหมด นอกจากนี้ พลังงานแสงทั้งหมดที่ฉีดเข้าไปในระบบที่มีวัสดุการเปลี่ยนเฟสจะต้องได้รับการปรับเทียบอย่างระมัดระวังเพื่อให้การตอบสนองของวัสดุต่อสัญญาณอินพุตเป็นไปตามความคาดหวัง แม้ว่าวัสดุการเปลี่ยนเฟสสามารถใช้เพื่อปรับเฟส Mach Zehnder ได้ แต่จะมีการมีเพศสัมพันธ์ข้ามที่หลีกเลี่ยงไม่ได้ระหว่างความเข้มของแสงที่ดูดซับโดยวัสดุและการชะลอความเร็วของแสง ซึ่งจะเพิ่มความซับซ้อนของระบบ DNN แบบดั้งเดิมได้พัฒนาขึ้น ในขนาดใหญ่ซึ่งอาจประกอบด้วยเซลล์ประสาทหลายพันเซลล์และไซแนปส์นับล้าน อย่างไรก็ตาม ท่อนำคลื่นของเครือข่ายโฟโตนิกจะต้องอยู่ห่างจากกันเพื่อป้องกันการมีเพศสัมพันธ์และหลีกเลี่ยงการโค้งงออย่างแหลมคมเพื่อป้องกันไม่ให้แสงออกจากท่อนำคลื่น เนื่องจากจุดตัดของท่อนำคลื่นทั้งสองอาจส่งพลังงานที่ไม่พึงประสงค์ไปในเส้นทางที่ไม่ถูกต้อง ซึ่งเป็นการจำกัดลักษณะ 2D ของการออกแบบชิปโฟโตนิกอย่างมาก

มะเดื่อ 5 การทดลองใช้งานโครงข่ายประสาทเทียมแบบพัลส์ชั้นเดียวต้องใช้ระยะทางไกลและพื้นที่ขนาดใหญ่ในการสร้างโครงข่ายประสาทเทียมสำหรับอุปกรณ์ออพติคัล แต่การผลิตชิ้นส่วนสำคัญของโครงสร้างออพติคัลแต่ละชิ้นจำเป็นต้องมีความแม่นยำสูง เนื่องจากท่อนำคลื่นและบริเวณข้อต่อ เช่น ทางเข้าและทางออกของตัวสะท้อนเสียงระดับไมโครริงแต่ละตัว จะต้องมีขนาดที่แน่นอนซึ่งจำเป็นสำหรับประสิทธิภาพของเครือข่ายที่สอดคล้องกัน ยังมีข้อจำกัดมากมายเกี่ยวกับวิธีการผลิตตัวสะท้อนเสียงแบบไมโครริงขนาดเล็ก สุดท้ายนี้ เทคโนโลยีการปรับให้เอฟเฟกต์ทางแสงที่อ่อนแอ และต้องใช้พื้นที่ปฏิสัมพันธ์ที่ยาวนานเพื่อให้ได้อิทธิพลที่จำกัดในระดับที่มีนัยสำคัญต่อแสงที่ผ่าน

ความคืบหน้าในการวิจัยของทีม Feldmann คาดว่าจะส่งเสริมการพัฒนาด้านนี้ในอนาคต งานวิจัยนี้อาจวางรากฐานสำหรับการเกิดขึ้นของเครื่องเร่งเครือข่ายประสาทแบบออปติคอลที่ประหยัดพลังงานและปรับขนาดได้ในอนาคต