ผลงานตัวแทน 96 ชิ้นตั้งแต่ปี 1931 ถึงปัจจุบัน จัดกลุ่มตามบทบาทเชิงบรรณาธิการและสถานะการเผยแพร่
บทความวิจัยคือโครงสร้างที่แข็งแกร่งที่สุดของประวัติศาสตร์ AI ที่นี่รวบรวมงานวิจัยพื้นฐาน 96 ชิ้นที่หล่อหลอมศาสตร์นี้ พร้อมลิงก์ต้นฉบับ
การคัดเลือกพิจารณาจากความสำคัญทางประวัติศาสตร์ อิทธิพลทางเทคนิค และดุลยพินิจของกองบรรณาธิการ รายการอาจรวมบทความที่ผ่านการประเมิน รายงานทางเทคนิค พรีพรินต์ บทความแสดงจุดยืน และการ์ดระบบ โดยระบุสถานะการเผยแพร่ไว้อย่างชัดเจน สามารถเสนอการแก้ไขหรือเพิ่มเติมผ่านหน้าหลักเกณฑ์บรรณาธิการและการแก้ไข
กำลังแสดง 96 จาก 96 บทความ
ว่าด้วยประพจน์ที่ตัดสินไม่ได้เชิงรูปนัยใน Principia Mathematica และระบบที่เกี่ยวข้อง I
พิสูจน์ว่าระบบรูปนัยที่สอดคล้องกันและแสดงเลขคณิตได้ย่อมมีข้อความที่เป็นจริงแต่พิสูจน์ไม่ได้ อันเป็นการวางขอบเขตที่ต่อมาใช้กรอบคำถามว่าการคำนวณและการให้เหตุผลด้วยเครื่องตัดสินสิ่งใดได้บ้าง
ว่าด้วยจำนวนที่คำนวณได้ พร้อมการประยุกต์ใช้กับปัญหาการตัดสิน (Entscheidungsproblem)
บทความนำเสนอเครื่องทัวริงแบบสากลและพิสูจน์ว่าปัญหา Entscheidungsproblem เป็นปัญหาที่ตัดสินไม่ได้จึงวางรากฐานทางทฤษฎีของวิทยาการคอมพิวเตอร์
ปัญหาที่แก้ไม่ได้ในทฤษฎีจำนวนเบื้องต้น
นิยามความคำนวณได้อย่างมีผลด้วยแคลคูลัสแลมบ์ดา และแสดงปัญหาที่ไม่มีกระบวนวิธีใดตัดสินได้ นับเป็นการไปถึงขอบเขตของการคำนวณโดยเป็นอิสระจากทัวริง
แคลคูลัสเชิงตรรกะของความคิดที่แฝงอยู่ในกิจกรรมของระบบประสาท
บทความจำลองกิจกรรมของเซลล์ประสาทด้วยตรรกะเชิงประพจน์จึงเป็นทฤษฎีทางคณิตศาสตร์ชิ้นแรกของโครงข่ายประสาทเทียม
ทฤษฎีคณิตศาสตร์ของการสื่อสาร
บทความที่ก่อตั้งทฤษฎีสารสนเทศ โดยนิยามเอนโทรปีและความจุของช่องสัญญาณให้เป็นขีดจำกัดพื้นฐานของการสื่อสาร
เครื่องจักรคำนวณกับความฉลาด
บทความเสนอเกมเลียนแบบ (ทัวริงเทสต์) และตั้งคำถาม “เครื่องจักรคิดได้หรือไม่” อย่างเป็นระบบ ซึ่งช่วยวางรากฐานให้ปัญญาประดิษฐ์กลายเป็นโครงการวิจัย
ข้อเสนอโครงการวิจัยภาคฤดูร้อน Dartmouth ว่าด้วยปัญญาประดิษฐ์
ข้อเสนอที่ก่อตั้งการประชุมเชิงปฏิบัติการภาคฤดูร้อนที่ดาร์ตมัธ ได้นำเสนอคำว่า “ปัญญาประดิษฐ์” และวางโครงร่างวาระการวิจัยของสาขานี้
เครื่องจักรทฤษฎีตรรกะ: ระบบประมวลผลสารสนเทศที่ซับซ้อน
บทความอธิบาย Logic Theorist โปรแกรมพิสูจน์ทฤษฎีบทยุคแรกที่ใช้การค้นหาแบบฮิวริสติกพิสูจน์ทฤษฎีบทจาก Principia Mathematica ของไวต์เฮดและรัสเซลล์ และแสดงการให้เหตุผลอัตโนมัติในตรรกศาสตร์เชิงประพจน์
องค์ประกอบของทฤษฎีการแก้ปัญหาของมนุษย์
อธิบายการแก้ปัญหาของมนุษย์ว่าเป็นการค้นหาเชิงฮิวริสติกในปริภูมิของสถานะเชิงสัญลักษณ์ อันเป็นคำอธิบายที่รองรับ General Problem Solver และมุมมองว่าจิตคือการประมวลสารสนเทศ
เพอร์เซปตรอน: แบบจำลองเชิงความน่าจะเป็นสำหรับการจัดเก็บและการจัดระเบียบสารสนเทศในสมอง
บทความนำเสนอเซลล์ประสาทแบบเชิงเส้นพร้อมค่าเขตที่ฝึกได้เป็นชิ้นแรกอันเป็นจุดเริ่มต้นของสาย connectionism ที่นำไปสู่การเรียนรู้เชิงลึกสมัยใหม่
โปรแกรมที่มีสามัญสำนึก
บทความเสนอแนวคิด “advice taker” ซึ่งเป็นโปรแกรมที่สามารถอนุมานผลจากคลังความรู้เชิงสามัญสำนึกที่จัดรูปแบบอย่างเป็นทางการจึงวางรากฐานเชิงแนวคิดของการแทนความรู้และการให้เหตุผล
การศึกษาบางประการเกี่ยวกับการเรียนรู้ของเครื่องโดยใช้เกมหมากฮอส
บทความสาธิตการเรียนรู้ด้วยการเล่นกับตนเองโดยใช้ฟังก์ชันให้คะแนนในโปรแกรมหมากฮอส ซึ่งเป็นหลักไมล์ยุคแรกของการเรียนรู้แบบเสริมกำลังและเชื่อมโยงกับคำว่า “การเรียนรู้ของเครื่อง”
บันทึกว่าด้วยสมมาตรเชิงวากยสัมพันธ์และการจัดการระบบรูปนัยด้วยเครื่องจักร
Gelernter พิจารณาว่าเครื่องจักรจะจัดการระบบรูปนัยที่ภาคแสดงมีความสมมาตรสูงได้อย่างมีประสิทธิภาพอย่างไร และเสนอทฤษฎีบทกับกฎว่าด้วยสมมาตรเชิงวากยสัมพันธ์เป็นคำตอบ งานนี้อยู่คู่กับเครื่องพิสูจน์ทฤษฎีบทเรขาคณิตที่เขากำลังสร้างที่ IBM ซึ่งพิสูจน์ทฤษฎีบทเรขาคณิตระนาบแบบยุคลิดข้อแรกได้เมื่อต้นฤดูใบไม้ผลิ ปี 1959
วงจรสวิตชิงแบบปรับตัว
บทความนำเสนอนิวรอน ADALINE และกฎการเรียนรู้แบบกำลังสองเฉลี่ยน้อยที่สุด (LMS) ซึ่งเป็นต้นแบบของการลดตามความชันแบบสุ่มในปัจจุบัน
ฟังก์ชันเวียนเกิดของนิพจน์เชิงสัญลักษณ์และการคำนวณด้วยเครื่องจักร ภาค I
เสนอนิพจน์เชิงสัญลักษณ์ ฟังก์ชันเวียนเกิดบนนิพจน์เหล่านั้น และ eval ที่ทำให้ภาษาตีความตัวเองได้ อันเป็นแบบที่กลายมาเป็น Lisp และเป็นภาษาทำงานของปัญญาประดิษฐ์เชิงสัญลักษณ์
หลักการของประสาทพลศาสตร์: เพอร์เซปตรอนและทฤษฎีกลไกของสมอง
รวบรวมงานเรื่องเพอร์เซปตรอนให้เป็นทฤษฎีที่สมบูรณ์ว่าด้วยโครงข่ายความน่าจะเป็นแบบหลายชั้น พร้อมระบุทั้งสิ่งที่เครื่องเช่นนี้เรียนรู้ได้และจุดที่รูปแบบชั้นเดียวไปต่อไม่ได้
ELIZA: โปรแกรมคอมพิวเตอร์เพื่อศึกษาการสื่อสารด้วยภาษาธรรมชาติระหว่างมนุษย์กับเครื่องจักร
สร้างโปรแกรมที่ดูราวกับสนทนาได้ด้วยการจับคู่แบบรูปและกฎการเขียนใหม่ โดยผู้เขียนชี้ทันทีว่าความเข้าใจที่ผู้อ่านยกให้โปรแกรมนั้นมากเกินกว่าที่มันมีจริง
โครงข่ายประสาทเทียมและระบบทางกายภาพที่มีความสามารถเชิงคำนวณร่วมแบบอุบัติ
บทความนำเสนอโครงข่ายความจำเชื่อมโยงของ Hopfield ซึ่งเชื่อมโยงการคำนวณเชิงประสาทเข้ากับภูมิทัศน์พลังงานของฟิสิกส์เชิงสถิติและฟื้นความสนใจในโครงข่ายประสาทระหว่างช่วงฤดูหนาวของปัญญาประดิษฐ์ยุคแรก
R1: ตัวกำหนดค่าระบบคอมพิวเตอร์แบบอิงกฎ
บันทึกระบบกฎการผลิตที่จัดโครงแบบคำสั่งซื้อคอมพิวเตอร์ของ DEC ทุกวัน นับเป็นระบบผู้เชี่ยวชาญไม่กี่ระบบที่ยืนอยู่ได้ในการใช้งานจริงประจำวันและคิดผลตอบแทนออกมาได้
การหลอมรวม การแพร่ และการจัดโครงสร้างในเครือข่ายความเชื่อ
บทความจัดระบบการดำเนินการหลอมรวมแพร่กระจายและจัดโครงสร้างบนโครงข่ายความเชื่อจึงวางรากฐานเชิงขั้นตอนวิธีสำหรับการอนุมานใน Bayesian network
การเรียนรู้ตัวแทนด้วยการแพร่กระจายค่าคลาดเคลื่อนย้อนกลับ
บทความที่เป็นคำอธิบายมาตรฐานของอัลกอริทึมการแพร่ย้อนกลับสำหรับโครงข่ายประสาทหลายชั้น แสดงว่าหน่วยซ่อนสามารถเรียนรู้ตัวแทนภายในที่เป็นประโยชน์ได้ และจุดประกายงานวิจัยสายคอนเนกชันนิสม์ขึ้นอีกครั้งในช่วงปลายทศวรรษ 1980
การเรียนรู้เพื่อทำนายด้วยวิธีผลต่างเชิงเวลา
บทความจัดระบบการเรียนรู้แบบ temporal-difference (TD) จึงกลายเป็นหนึ่งในขั้นตอนวิธีหลักที่อยู่เบื้องหลังการเรียนรู้แบบเสริมกำลังสมัยใหม่
การค้นหาโครงสร้างในเวลา
บทความนำเสนอโครงข่ายวนซ้ำอย่างง่ายของ Elman ซึ่งแสดงว่าโครงข่ายประสาทสามารถเรียนรู้โครงสร้างเชิงเวลาและเปิดทางให้แบบจำลองลำดับในภายหลัง
เครือข่ายเวกเตอร์ค้ำยัน
บทความนำเสนอซัพพอร์ตเวกเตอร์แมชชีนแบบ soft-margin ซึ่งเป็นตัวจำแนกแบบขอบเขตสูงสุดที่กลายเป็นแบบแผนและกำหนดทิศทางการเรียนรู้ของเครื่องในช่วงคริสต์ทศวรรษ 1990
หน่วยความจำระยะสั้นแบบยาว
นำเสนอสถาปัตยกรรม LSTM ดั้งเดิมที่ใช้เซลล์ความจำพร้อมประตูรับเข้าและส่งออก ส่วนประตูลืมที่ใช้เป็นมาตรฐานในปัจจุบันถูกเพิ่มภายหลังโดย Gers, Schmidhuber และ Cummins
การเรียนรู้แบบอิงเกรเดียนต์ที่ประยุกต์ใช้กับการรู้จำเอกสาร
บทความนำเสนอ LeNet-5 ซึ่งเป็นโครงข่ายประสาทแบบคอนโวลูชันต้นแบบที่ทำการรู้จำตัวเลขเขียนด้วยมือได้ในระดับใช้งานจริงและสถาปนาแม่แบบของ CNN
การลดมิติของข้อมูลด้วยโครงข่ายประสาทเทียม
บทความนำเสนอออโตเอนโคเดอร์เชิงลึกที่สร้างข้อมูลมิติสูงขึ้นมาใหม่ได้เที่ยงตรงกว่า PCA มากจึงจุดประกายแรกของการฟื้นคืนของการเรียนรู้เชิงลึก
อัลกอริทึมการเรียนรู้ที่รวดเร็วสำหรับเครือข่ายความเชื่อเชิงลึก
บทความหาอัลกอริทึมแบบละโมบที่รวดเร็วซึ่งเรียนรู้ deep belief net ทีละชั้นแล้วจึงปรับละเอียด โครงข่ายที่ได้จำแนกตัวเลขลายมือได้ดีกว่าวิธีเชิงจำแนกที่ดีที่สุดในเวลานั้น และผลนี้ปลุกความสนใจในโครงข่ายประสาทเทียมแบบลึกขึ้นอีกครั้ง
การเรียนรู้เชิงลึกแบบไม่มีผู้สอนขนาดใหญ่ด้วยหน่วยประมวลผลกราฟิก
ย้ายการฝึกแบบจำลองเชิงลึกแบบไม่มีผู้สอนไปยังหน่วยประมวลผลกราฟิกจนเร็วขึ้นระดับเท่าตัวหลายสิบ ทำให้เส้นทางฮาร์ดแวร์ที่การเรียนรู้เชิงลึกใช้ขยายขนาดในทศวรรษถัดมากลายเป็นเรื่องปกติ
เล่นเกม Atari ด้วยการเรียนรู้แบบเสริมกำลังเชิงลึก
DQN ผสาน Q-learning เข้ากับโครงข่ายคอนโวลูชันที่เรียนรู้นโยบายการควบคุมจากพิกเซลดิบโดยตรง เมื่อนำไปใช้กับเกม Atari 2600 เจ็ดเกมโดยไม่ปรับแก้ ก็เหนือกว่าวิธีก่อนหน้าทั้งหมดในหกเกม และเหนือกว่าผู้เชี่ยวชาญที่เป็นมนุษย์ในสามเกม เปิดทางสู่การเรียนรู้แบบเสริมกำลังเชิงลึก
การประมาณค่าตัวแทนคำในปริภูมิเวกเตอร์อย่างมีประสิทธิภาพ
บทความนำเสนอสถาปัตยกรรม skip-gram และ CBOW ที่สร้างเวกเตอร์ฝังคำแบบหนาแน่นจึงเปิดยุคของเวกเตอร์แทนคำที่ฝึกล่วงหน้า
เบย์แปรผันแบบเข้ารหัสอัตโนมัติ
VAE เชื่อมการสร้างแบบจำลองเชิงกำเนิดด้วยตัวแปรแฝงเข้ากับการฝึกด้วยเกรเดียนต์แบบสุ่มผ่านเทคนิคการเปลี่ยนพารามิเตอร์ และกลายเป็นหนึ่งในรากฐานของการเรียนรู้เชิงลึกเชิงกำเนิดสมัยใหม่
การแปลภาษาด้วยเครื่องแบบประสาทโดยเรียนรู้การจัดแนวและการแปลไปพร้อมกัน
บทความนำเสนอ attention แบบบวก (Bahdanau) สำหรับการแปลด้วยโครงข่ายประสาทแสดงว่าการจัดแนวแบบนุ่มช่วยให้ดีโค้เดอร์มุ่งไปยังโทเคนต้นทางที่เกี่ยวข้องและจุดประกาย Transformer โดยตรง
เครือข่ายปฏิปักษ์เชิงสร้าง
บทความจัดการสร้างแบบจำลองเชิงกำเนิดในรูปเกมมินแมกซ์สองผู้เล่นระหว่างเครื่องกำเนิดกับเครื่องจำแนกจึงเปิดตระกูลใหม่ของแบบจำลองเชิงกำเนิดโดยปริยาย
Dropout: วิธีง่าย ๆ ในการป้องกันโครงข่ายประสาทเทียมจากภาวะโอเวอร์ฟิต
บทความนำเสนอ dropout ซึ่งเป็นเทคนิคสม่ำเสรอเชิงสุ่มอย่างง่ายที่กลายเป็นค่าตั้งต้นในไปป์ไลน์การฝึกการเรียนรู้เชิงลึก
การทำนอร์มัลไลซ์แบบกลุ่ม: เร่งการฝึกโครงข่ายเชิงลึกด้วยการลดการเลื่อนของตัวแปรร่วมภายใน
บทความนำเสนอ batch normalization ซึ่งปรับอินพุตของชั้นให้เป็นมาตรฐานข้ามมินิแบตช์เพื่อทำให้การฝึกโครงข่ายเชิงลึกมีเสถียรภาพและเร็วขึ้นอย่างมาก
การเรียนรู้เชิงลึกแบบไม่มีผู้สอนด้วยอุณหพลศาสตร์นอกสมดุล
วางการสร้างแบบจำลองเชิงกำเนิดให้เป็นการย้อนกระบวนการเติมสัญญาณรบกวนทีละขั้น อันเป็นรูปแบบที่แบบจำลองการแพร่รุ่นหลังตั้งอยู่บนนั้น
การเรียนรู้แบบเศษเหลือเชิงลึกสำหรับการรู้จำภาพ
บทความนำเสนอการเชื่อมต่อแบบเรซิดวลที่ทำให้โครงข่ายที่ลึกหลายร้อยชั้นสามารถฝึกได้อย่างมีประสิทธิภาพและชนะ ImageNet 2015 อย่างขาดลอย
การแปลภาษาด้วยเครื่องแบบประสาทสำหรับคำที่พบน้อยด้วยหน่วยคำย่อย
ตัดคำเป็นหน่วยย่อยที่ได้จากความถี่ ทำให้คลังคำขนาดคงที่สะกดอะไรก็ได้ อันเป็นวิธีตัดคำที่แบบจำลองภาษารุ่นหลังส่วนใหญ่รับช่วงต่อ
Deep Compression: การบีบอัดโครงข่ายประสาทเทียมเชิงลึกด้วยการตัดแต่ง การควอนไทซ์แบบฝึก และการเข้ารหัสฮัฟฟ์แมน
รวมการตัดกิ่ง การควอนไทซ์ระหว่างฝึก และการเข้ารหัสฮัฟฟ์แมนไว้ในกระบวนการเดียว ย่อขนาดโครงข่ายลงราวสิบเท่าโดยแทบไม่เสียความแม่นยำ นับเป็นการชี้แต่เนิ่น ๆ ว่าความละเอียดเชิงตัวเลขคือตัวแปรของการออกแบบ
WaveNet: แบบจำลองเชิงสร้างสำหรับเสียงดิบ
บทความนำเสนอแบบจำลองออโตรีเกรสซีฟเชิงคอนโวลูชันแบบขยายเชิงสาเหตุที่สร้างสัญญาณเสียงดิบจึงยกระดับความเป็นธรรมชาติของการสังเคราะห์เสียงพูดขึ้นอย่างมาก
อัลกอริทึมการหาค่าเหมาะที่สุดของนโยบายแบบใกล้เคียง
บทความนำเสนอ PPO ซึ่งเป็นวิธีลงกราเดียนต์นโยบายอันดับหนึ่งที่เรียบง่ายและเสถียรและกลายเป็นขั้นตอนวิธีเพิ่มประสิทธิภาพนโยบายมาตรฐานในการเรียนรู้เสริมกำลังสมัยใหม่
โครงข่ายประสาทเทียมขนาดใหญ่เกินคาด: ชั้นผสมผู้เชี่ยวชาญแบบเกตเบาบาง
ส่งแต่ละโทเคนไปยังผู้เชี่ยวชาญเพียงไม่กี่ตัวจากจำนวนมาก ทำให้จำนวนพารามิเตอร์ของโครงข่ายเติบโตได้ไกลเกินกว่าการคำนวณที่ใช้กับอินพุตหนึ่ง ๆ
ความสนใจคือทั้งหมดที่คุณต้องการ
บทความนำเสนอ Transformer ซึ่งเป็นสถาปัตยกรรมที่ใช้ attention ล้วนและละทิ้งการวนซ้ำและการคอนโวลูชันจึงเหนือกว่าคุณภาพการแปลงลำดับเดิมขณะฝึกในเวลาเพียงเสี้ยวหนึ่ง
SentencePiece: ตัวตัดและตัวประกอบโทเค็นคำย่อยที่เรียบง่ายและไม่ขึ้นกับภาษาสำหรับการประมวลผลข้อความแบบประสาท
ฝึกตัวตัดคำระดับหน่วยย่อยจากข้อความดิบโดยตรงโดยไม่ต้องตัดคำล่วงหน้าตามภาษาใดภาษาหนึ่ง ทำให้กระบวนการเดียวกันใช้ได้กับภาษาที่ไม่เว้นวรรคระหว่างคำ
BERT: การฝึกล่วงหน้าของ Transformer แบบสองทิศทางเชิงลึกเพื่อความเข้าใจภาษา
บทความนำเสนอ Transformer แบบสองทิศทางที่ฝึกล่วงหน้าด้วย masked language modeling และ next-sentence prediction จึงสถาปนาเกณฑ์วัดใหม่ทั่วเกณฑ์ NLP
สำรวจขีดจำกัดของการเรียนรู้แบบถ่ายโอนด้วย Transformer แบบข้อความสู่ข้อความที่เป็นหนึ่งเดียว
บทความหลอมรวมทุกงาน NLP ในฐานะข้อความ-สู่-ข้อความและตัดทอนตัวเลือกการเรียนรู้แบบถ่ายโอนอย่างเป็นระบบจึงสถาปนาสูตรอ้างอิงสำหรับแบบจำลองที่ฝึกล่วงหน้าขนาดใหญ่
แบบจำลองการแพร่เชิงความน่าจะเป็นแบบลดสัญญาณรบกวน
บทความนำเสนอ DDPM แสดงว่าโมเดลความน่าจะเป็นแบบแพร่ที่ลดสัญญาณรบกวนซ้ำเป็นขั้น ๆ สร้างภาพความเที่ยงตรงสูงได้เทียบเท่า GAN
การฝึกแบบจำลองภาษาขนาดใหญ่อย่างมีประสิทธิภาพบนคลัสเตอร์ GPU ด้วย Megatron-LM
ประกอบการขนานเชิงเทนเซอร์ เชิงสายงาน และเชิงข้อมูลเข้าเป็นตารางเดียว พร้อมวัดอัตราการประมวลผลของการฝึกแบบจำลองภาษาบนจีพียูนับพันตัว
LoRA: การปรับแต่งแบบแรงก์ต่ำของแบบจำลองภาษาขนาดใหญ่
ตรึงน้ำหนักที่ฝึกไว้ล่วงหน้าแล้วฝึกเมทริกซ์อันดับต่ำคู่หนึ่งแทน ทำให้ต้นทุนการปรับแบบจำลองขนาดใหญ่เหลือเพียงเศษเสี้ยวของการปรับละเอียดทั้งตัว
การสร้างภาพจากข้อความแบบซีโร่ช็อต
บทความใช้ Transformer แบบถดถอยอัตโนมัติกับโทเคนข้อความและภาพแบบไม่ต่อเนื่อง เพื่อสร้างภาพจากข้อความคุณภาพสูงแบบ zero-shot (DALL·E)
การเรียนรู้แบบจำลองการมองเห็นที่ถ่ายโอนได้จากการกำกับด้วยภาษาธรรมชาติ
บทความฝึกการเรียนรู้แบบเปรียบต่างบนคู่ภาพกับข้อความ 400 ล้านคู่ เพื่อสร้างตัวเข้ารหัสภาพที่ถ่ายโอนแบบ zero-shot ไปยังงานปลายน้ำได้หลากหลาย
การประเมินแบบจำลองภาษาขนาดใหญ่ที่ฝึกด้วยโค้ด
เสนอแบบจำลอง GPT ที่ปรับละเอียดด้วยโค้ดพร้อมชุดวัดผลที่ให้คะแนนตามความถูกต้องเชิงหน้าที่ ทำให้การเขียนโปรแกรมกลายเป็นความสามารถที่วัดได้แทนที่จะเป็นเพียงแนวหนึ่งของการกำเนิดข้อความ พร้อมอภิปรายผลด้านความปลอดภัยและแรงงานไปด้วย
การสังเคราะห์ภาพความละเอียดสูงด้วยแบบจำลองการแพร่ในปริภูมิแฝง
บทความทำการแพร่ในปริภูมิแฝงของตัวเข้ารหัสอัตโนมัติที่ฝึกไว้ก่อน ทำให้สังเคราะห์ภาพความละเอียดสูงจากข้อความได้ด้วยการคำนวณในระดับพอประมาณ (Stable Diffusion)
การป้อนพรอมต์แบบลำดับความคิดกระตุ้นการให้เหตุผลในแบบจำลองภาษาขนาดใหญ่
บทความแสดงว่าการกระตุ้นให้แบบจำลองภาษาสร้างขั้นตอนการให้เหตุผลกลางทำให้สมรรถนะบนเกณฑ์การให้เหตุผลเชิงคำนวณสามัญสำนึกและสัญลักษณ์ดีขึ้นอย่างมาก
การฝึกแบบจำลองภาษาให้ทำตามคำสั่งด้วยผลตอบรับจากมนุษย์
บทความปรับแต่ง GPT-3 ด้วยการเรียนรู้แบบเสริมกำลังจากผลตอบรับของมนุษย์ เพื่อให้ทำตามคำสั่งได้ตรงยิ่งขึ้น นับเป็นต้นแบบโดยตรงของ ChatGPT (InstructGPT)
Constitutional AI: ความไม่เป็นอันตรายจากผลตอบรับของ AI
บทความนำเสนอ RLAIF ซึ่งแบบจำลองวิพากษ์และปรับปรุงผลลัพธ์ของตนเองตามรัฐธรรมนูญที่เขียนไว้จึงลดการพึ่งพาป้ายอันตรายจากมนุษย์ในการจัดแนว
LLaMA: แบบจำลองภาษาพื้นฐานที่เปิดและมีประสิทธิภาพ
บทความฝึกโมเดลพื้นฐานขนาด 7B–65B ด้วยโทเคนหลายล้านล้านโทเคนจากข้อมูลสาธารณะเท่านั้น โมเดล 13B เหนือกว่า GPT-3 (175B) ในเกณฑ์วัดส่วนใหญ่ และโมเดล 65B แข่งขันได้กับ Chinchilla-70B และ PaLM-540B
การสำรวจเอเจนต์อัตโนมัติที่อิงแบบจำลองภาษาขนาดใหญ่
จัดระเบียบงานเรื่องเอเจนต์ที่กระจัดกระจายให้เป็นสามสาย คือการสร้าง การประเมิน และการประยุกต์ นับเป็นจุดที่คำนี้เปลี่ยนจากการรวมกันของวิธีปฏิบัติมาเป็นสาขาวิจัยหนึ่ง
QLoRA: การปรับละเอียด LLM ที่ผ่านการควอนไทซ์อย่างมีประสิทธิภาพ
ส่งค่าความชันย้อนกลับผ่านแบบจำลองฐานที่ควอนไทซ์เป็น 4 บิตไปยังตัวปรับอันดับต่ำ ทำให้การปรับละเอียดแบบจำลองขนาดใหญ่อยู่ในวิสัยของจีพียูเพียงตัวเดียว
GPTQ: การควอนไทซ์หลังการฝึกที่แม่นยำสำหรับ Transformer เชิงสร้างที่ฝึกล่วงหน้า
ควอนไทซ์น้ำหนักของแบบจำลองภาษาขนาดใหญ่หลังการฝึก ทีละชั้นและในรอบเดียว ทำให้ให้บริการที่ความละเอียดต่ำลงได้โดยไม่ต้องฝึกใหม่
การอนุมานอย่างรวดเร็วจาก Transformer ด้วยการถอดรหัสแบบคาดการณ์
ให้แบบจำลองร่างขนาดเล็กเสนอโทเคนหลายตัวแล้วให้แบบจำลองเป้าหมายตรวจสอบพร้อมกัน ลดเวลาหน่วงโดยไม่เปลี่ยนการแจกแจงของผลลัพธ์
การจัดการหน่วยความจำอย่างมีประสิทธิภาพสำหรับการให้บริการแบบจำลองภาษาขนาดใหญ่ด้วย PagedAttention
จัดการแคชของกลไกความสนใจเป็นหน้าขนาดคงที่อย่างที่ระบบปฏิบัติการจัดการหน่วยความจำ ทำให้เครื่องบริการรับคำขอพร้อมกันได้มากขึ้นมากโดยไม่ต้องกันพื้นที่เผื่อกรณีเลวร้ายที่สุดให้ทุกคำขอ
Mamba: การสร้างแบบจำลองลำดับเชิงเส้นด้วยปริภูมิสถานะเชิงเลือก
บทความนำเสนอ Mamba สถาปัตยกรรมปริภูมิสถานะเชิงเลือกที่ไม่มีกลไก attention และขยายตัวเชิงเส้นตามความยาวลำดับ ในการสร้างแบบจำลองภาษา โมเดล 3B ของบทความเหนือกว่า Transformer ขนาดเท่ากัน และเทียบเท่า Transformer ที่ใหญ่กว่าสองเท่า จึงกลายเป็นหนึ่งในสถาปัตยกรรมหลัง Transformer ที่ทรงอิทธิพลที่สุดของปี 2023
การจำแนก ImageNet ด้วยโครงข่ายประสาทเทียมแบบคอนโวลูชันเชิงลึก
บทความชนะการแข่งขัน ImageNet 2012 อย่างขาดลอยด้วย CNN ที่ฝึกบน GPU จึงเป็นจุดเปลี่ยนที่การเรียนรู้เชิงลึกแซงหน้าคอมพิวเตอร์วิทัศน์แบบคลาสสิก
การควบคุมระดับมนุษย์ผ่านการเรียนรู้แบบเสริมกำลังเชิงลึก
บทความตีพิมพ์ DQN ฉบับ Nature ซึ่งแสดงสมรรถนะระดับมนุษย์ในเกม Atari หลากหลายเกมและนำการเรียนรู้เสริมกำลังเชิงลึกเข้าสู่กระแสหลัก
การเชี่ยวชาญเกมโกะด้วยโครงข่ายประสาทเทียมเชิงลึกและการค้นหาแบบต้นไม้
AlphaGo ผสานโครงข่ายนโยบายและโครงข่ายค่าเข้ากับการค้นหาแบบต้นไม้มอนติคาร์โล และเอาชนะแฟนฮุย แชมป์ยุโรป 5-0 ประกาศว่าการเรียนรู้แบบเสริมกำลังเชิงลึกได้ไปถึงชั้นลึกที่สุดของการเล่นเชิงกลยุทธ์ของมนุษย์
การพัฒนาความเข้าใจภาษาด้วยการฝึกล่วงหน้าเชิงสร้าง
บทความแสดงว่า Transformer เชิงกำเนิดที่ฝึกล่วงหน้าบนข้อความไร้ป้ายสามารถปรับแต่งอย่างละเอียดให้มีสมรรถนะสูงข้ามงาน NLP ที่หลากหลายจึงเป็นจุดกำเนิดของสาย GPT
แบบจำลองภาษาเป็นผู้เรียนหลายงานแบบไม่มีผู้สอน
บทความแสดงว่าแบบจำลองภาษา Transformer ขนาด 1.5B พารามิเตอร์แสดงพฤติกรรมหลายงานแบบ zero-shot จึงจุดประเด็นอภิปรายเรื่อง “แบบจำลองภาษาในฐานะผู้เรียนหลายงาน”
แบบจำลองภาษาเรียนรู้ได้จากตัวอย่างเพียงไม่กี่ตัวอย่าง
บทความขยาย GPT เป็น 175B พารามิเตอร์ และแสดงว่าโมเดลภาษาขนาดใหญ่เรียนรู้ในบริบทจากตัวอย่างเพียงไม่กี่ตัวได้ดีในงานจำนวนมาก
รายงานทางเทคนิค GPT-4
บทความอธิบาย GPT-4 โมเดลหลายรูปแบบขนาดใหญ่ที่รับข้อมูลนำเข้าทั้งภาพและข้อความ และมีสมรรถนะใกล้ระดับมนุษย์ในเกณฑ์วัดเชิงวิชาชีพและวิชาการจำนวนมาก
Gemini: ตระกูลแบบจำลองหลายรูปแบบที่มีความสามารถสูง
บทความเปิดตัวตระกูล Gemini (Ultra/Pro/Nano) ซึ่งเป็นโมเดลหลายรูปแบบโดยกำเนิดที่ฝึกร่วมกันบนข้อความ โค้ด ภาพ เสียง และวิดีโอ
การ์ดระบบ OpenAI o1
OpenAI เผยแพร่การ์ดระบบสำหรับซีรีส์โมเดล o1 ซึ่งฝึกด้วยการเรียนรู้แบบเสริมกำลังขนาดใหญ่เพื่อให้ใช้เหตุผลแบบลูกโซ่ความคิด o1 บรรลุถึง SOTA ในงานด้านวิทยาศาสตร์และการเขียนโค้ด และแสดงการปฏิบัติตามนโยบายโดยอาศัยการอนุมาน
ARC-AGI-3: ความท้าทายใหม่สำหรับปัญญาประดิษฐ์เชิงเอเจนต์ชั้นแนวหน้า
ARC Prize เปิดตัว ARC-AGI-3 เกณฑ์มาตรฐานเชิงโต้ตอบสำหรับศึกษาปัญญาประดิษฐ์เชิงเอเจนต์ผ่านสภาพแวดล้อมเชิงรอบที่เป็นนามธรรม ซึ่งเอเจนต์ต้องสำรวจ อนุมานเป้าหมาย สร้างแบบจำลองภายในของพลวัตสภาพแวดล้อม และวางแผนลำดับการกระทำที่มีประสิทธิภาพโดยไม่มีคำสั่งชัดเจน ณ เดือนมีนาคม 2026 มนุษย์แก้สภาพแวดล้อมได้ 100% ในขณะที่ระบบ AI ชั้นแนวหน้าทำคะแนนได้ต่ำกว่า 1%
การขยายขนาดความเป็นเอกความหมาย: การสกัดคุณลักษณะที่ตีความได้จาก Claude 3 Sonnet
บทความประยุกต์ sparse autoencoder กับชั้นกลางของ Claude 3 Sonnet ซึ่งเป็นโมเดลใช้งานจริงขนาดกลางของ Anthropic และสกัดลักษณะได้หลายล้านลักษณะจากพจนานุกรมขนาดสูงสุด 34 ล้าน โดยจำนวนมากเป็นลักษณะความหมายเดี่ยวและเป็นนามธรรมสูง
รายงานทางเทคนิค DeepSeek-V3
บทความเสนอ DeepSeek-V3 แบบจำลอง Mixture-of-Experts ขนาด 671B พารามิเตอร์ที่ใช้ Multi-head Latent Attention และ DeepSeekMoE และรายงานว่าเหนือกว่าแบบจำลองน้ำหนักเปิดอื่น ๆ และเข้าใกล้แบบจำลองปิดชั้นนำบนเกณฑ์หลัก ด้วยต้นทุนการฝึกเพียงส่วนน้อยของแบบจำลองแนวหน้า
Gemini 1.5: ความเข้าใจมัลติโมดัลข้ามบริบทนับล้านโทเค็น
เปิดตัวตระกูล Gemini 1.5 ซึ่งเป็นโมเดลมัลติโมดัลที่มีประสิทธิภาพการคำนวณสูง พร้อมหน้าต่างบริบทขนาดหนึ่งล้านโทเค็น — สามารถให้เหตุผลอย่างละเอียดข้ามเอกสารยาวหลายฉบับและวิดีโอ/เสียงหลายชั่วโมง
ฝูงโมเดล Llama 3
Meta นำเสนอตระกูล Llama 3 ซึ่งเป็นโมเดลรากฐานน้ำหนักเปิดที่รองรับหลายภาษา การเขียนโค้ด การอนุมาน และการใช้เครื่องมือโดยกำเนิด โมเดลเรือธง 405B dense Transformer เป็นหนึ่งในโมเดลน้ำหนักเปิดที่ใหญ่ที่สุด ณ เวลาที่เปิดตัว
SAM 2: การแบ่งส่วนทุกสิ่งในภาพและวิดีโอ
Meta นำเสนอ SAM 2 โมเดลรากฐานสำหรับการแบ่งส่วนภาพด้วยพรอมต์ทั้งในภาพนิ่งและวิดีโอ พร้อมชุดข้อมูล SA-V ซึ่งผู้เขียนระบุว่าเป็นชุดข้อมูลการแบ่งส่วนวิดีโอที่ใหญ่ที่สุดจนถึงขณะนั้น
Gemma 2: การปรับปรุงโมเดลภาษาแบบเปิดในขนาดที่ใช้งานได้จริง
Google DeepMind เปิดตัว Gemma 2 ตระกูลโมเดลเปิดที่มีน้ำหนักเบา (2B-27B พารามิเตอร์) โดยประยุกต์การปรับเปลี่ยนทางเทคนิคที่รู้จักหลายอย่างกับ Transformer รวมถึง sliding window attention เพื่อเข้าใกล้โมเดลที่ใหญ่กว่ามาก
DeepSeek-R1: กระตุ้นความสามารถในการอนุมานของ LLM ผ่านการเรียนรู้แบบเสริมกำลัง
DeepSeek เปิดตัว R1 ซึ่งความสามารถในการให้เหตุผลพัฒนาขึ้นจากการเรียนรู้แบบเสริมกำลังขนาดใหญ่เป็นหลัก ผู้เขียนรายงานว่ามีสมรรถนะเทียบเคียง OpenAI o1 ในงานให้เหตุผลอย่างคณิตศาสตร์และการเขียนโค้ด น้ำหนักเผยแพร่ภายใต้สัญญาอนุญาต MIT
s1: การขยายขนาดอย่างง่ายในช่วงทดสอบ
ผู้เขียนปรับจูน Qwen2.5-32B ด้วยโจทย์การให้เหตุผลที่คัดเลือกแล้ว 1,000 ข้อ และเพิ่มการบังคับงบประมาณซึ่งจำกัดหรือยืดระยะเวลาที่โมเดลใช้คิดตอนอนุมาน ผลลัพธ์เหนือกว่า o1-preview ในคณิตศาสตร์ระดับแข่งขัน และเพิ่มจาก 50% เป็น 57% บน AIME24 เมื่อเพิ่มการคำนวณช่วงทดสอบ นับเป็นการถ่วงดุลโดยตรงต่อสมมติฐานที่ว่าความสามารถมาจากการฝึกขนาดใหญ่ขึ้นเท่านั้น
รายงานทางเทคนิค Qwen3
Qwen3 เป็นตระกูลโมเดลรวมตั้งแต่ 600 ล้านถึง 2.35 แสนล้านพารามิเตอร์ ทั้งแบบหนาแน่นและแบบผสมผู้เชี่ยวชาญ พร้อมสลับระหว่างโหมดคิดและไม่คิด ทำให้ความลึกของการให้เหตุผลกลายเป็นตัวเลือกระดับคำขอ การรองรับหลายภาษาขยายจาก 29 เป็น 119 ภาษา และเผยแพร่น้ำหนักภายใต้สัญญาอนุญาต Apache 2.0
AlphaEvolve: เอเจนต์เขียนโค้ดเพื่อการค้นพบทางวิทยาศาสตร์และอัลกอริทึม
AlphaEvolve เป็นเอเจนต์เขียนโค้ดเชิงวิวัฒนาการ ที่จัดการสายงานอัตโนมัติของโมเดลภาษา แก้ไขโค้ดของอัลกอริทึมโดยตรง และปรับปรุงซ้ำ ๆ ตามผลป้อนกลับจากตัวประเมินหนึ่งตัวหรือมากกว่า ภายใน Google มันสร้างอัลกอริทึมจัดคิวงานศูนย์ข้อมูลที่มีประสิทธิภาพกว่าเดิม พบการลดรูปที่ให้ผลเทียบเท่าในการออกแบบวงจรตัวเร่งฮาร์ดแวร์ และเร่งการฝึกโมเดลที่รองรับตัวมันเอง ในทางคณิตศาสตร์และวิทยาการคอมพิวเตอร์ มันค้นพบอัลกอริทึมที่พิสูจน์ได้ว่าถูกต้องและดีกว่าที่เคยมี หนึ่งในนั้นคือวิธีคูณเมทริกซ์เชิงซ้อนขนาด 4×4 ด้วยการคูณสเกลาร์ 48 ครั้ง ซึ่งในเงื่อนไขนี้นับเป็นการปรับปรุงอัลกอริทึมของ Strassen ครั้งแรกในรอบ 56 ปี
Ai2 เปิดตัว OLMo 2 ขนาด 7B 13B และ 32B พร้อมเผยแพร่ทุกองค์ประกอบ ได้แก่ น้ำหนัก ข้อมูลฝึกทั้งชุด โค้ดและสูตรการฝึก บันทึกการฝึก และจุดตรวจระหว่างทางหลายพันจุด รายงานอธิบายการปรับเพื่อความเสถียรและประสิทธิภาพต่อโทเคน ชุดข้อมูลผสมช่วงท้ายชื่อ Dolmino Mix 1124 และขั้นตอนสุดท้ายที่ใช้การเรียนรู้แบบเสริมกำลังด้วยรางวัลที่ตรวจสอบได้ โมเดลฐานอยู่บนพรมแดนพาเรโตระหว่างสมรรถนะกับการคำนวณในการฝึก และมักเทียบเท่าตระกูลที่เผยแพร่เพียงน้ำหนัก ทั้งที่เปิดเผยว่าฝึกด้วยอะไร
Olmo 3 ขยายตระกูลที่เปิดเผยครบถ้วนไปสู่ขนาด 7B และ 32B ออกแบบมาเพื่อการอนุมานบริบทยาว การเรียกฟังก์ชัน การเขียนโค้ด การทำตามคำสั่ง การสนทนา และการเรียกคืนความรู้ สิ่งที่เผยแพร่คือกระบวนการสร้างโมเดลทั้งสาย ได้แก่ ทุกขั้นตอน จุดตรวจ จุดข้อมูล และสิ่งที่ต้องพึ่งพาในการสร้าง ไม่ใช่เพียงน้ำหนัก Ai2 ระบุว่า Olmo 3 Think 32B รุ่นเรือธงเป็นโมเดลคิดแบบเปิดเผยครบถ้วนที่แข็งแกร่งที่สุด ณ เวลาที่เผยแพร่ ซึ่งเป็นการเปรียบเทียบภายในหมวดเปิดเผยครบถ้วน ไม่ใช่การจัดอันดับเทียบกับระบบแนวหน้าโดยรวม
จุดยืน: ความจำชัดแจ้งของฮิปโปแคมปัสเป็นรากฐานสำคัญของ AGI
บทความจุดยืนนี้ชี้ให้เห็นว่าการบูรณาการความจำชัดแจ้งเป็นรากฐานสำคัญในการก้าวหน้า LLM สู่ AGI กลไกการเรียนรู้พื้นฐานของ LLM คล้ายคลึงกับความจำโดยปริยายของมนุษย์อย่างมาก แต่หน้าที่ทางปัญญาขั้นสูงที่จำเป็นสำหรับ AGI เช่น การวางแผนเชิงกลยุทธ์ระยะยาวและอภิปัญญา ขึ้นอยู่กับความจำชัดแจ้ง
GLM-5: จากไวบ์โค้ดดิงสู่วิศวกรรมเอเจนต์
รายงานทางเทคนิคของ Z.ai เกี่ยวกับ GLM-5 ต่อยอดจากความสามารถด้านเอเจนต์ การให้เหตุผล และการเขียนโค้ดของรุ่นก่อน โมเดลใช้ DSA เพื่อลดต้นทุนการฝึกและการอนุมานขณะยังคงความแม่นยำในบริบทยาว ส่วนขั้นหลังการฝึกเพิ่มโครงสร้างพื้นฐานการเรียนรู้แบบเสริมกำลังแบบอะซิงโครนัสที่แยกการสร้างออกจากการฝึก และอัลกอริทึม RL เอเจนต์แบบอะซิงโครนัสสำหรับการโต้ตอบระยะยาว รายงานอ้างผลลัพธ์ชั้นนำบนเกณฑ์มาตรฐานเปิดและงานวิศวกรรมซอฟต์แวร์แบบครบวงจร ซึ่งเป็นการประเมินของผู้เขียนเอง โดยเปิดโค้ดและโมเดลบน GitHub ให้ตรวจสอบได้
ปรับปรุงเลขชี้กำลังการคูณเมทริกซ์ด้วยการหาค่าเหมาะที่สุดสมัยใหม่และ AlphaEvolve
ขอบเขตที่ดีที่สุดเท่าที่ทราบของเลขชี้กำลังการคูณเมทริกซ์ ω มาจากการวิเคราะห์การสูญเสียแบบผสม ซึ่งเป็นการปรับละเอียดของวิธีเลเซอร์ ผู้เขียนจัดรูปปัญหาการหาค่าเหมาะที่สุดที่เป็นแกนกลางเสียใหม่เพื่อให้แก้ได้ในขอบเขตที่กว้างขึ้น ออกแบบอัลกอริทึมการหาค่าเหมาะที่สุดแบบใหม่โดยอาศัยความก้าวหน้าล่าสุดของการเรียนรู้ของเครื่อง แล้วปรับละเอียดอัลกอริทึมนั้นด้วย AlphaEvolve ผลรวมทำให้ขอบเขตบนลดจาก 2.371339 เหลือ 2.371177 นี่เป็นบันทึกฉบับพรีปรินต์ และ AlphaEvolve เป็นเพียงองค์ประกอบหนึ่งไม่ใช่ทั้งวิธี ผลที่ได้เพิ่มขึ้นเพียงเล็กน้อย แต่เกิดขึ้นกับปัญหาเชิงทฤษฎีที่ถูกศึกษามาหลายทศวรรษ
เร่งการค้นพบทางวิทยาศาสตร์ด้วย Co-Scientist
Google เสนอ Co-Scientist ระบบหลายเอเจนต์ที่สร้างบน Gemini โดยเอเจนต์จะสร้าง วิจารณ์ และปรับปรุงสมมติฐานการวิจัย พร้อมกระบวนการแบบทัวร์นาเมนต์ที่ยกระดับคุณภาพขึ้นในแต่ละรอบ บทความรายงานว่าคุณภาพของสมมติฐานเพิ่มขึ้นต่อเนื่องเมื่อเพิ่มการคำนวณในขั้นอนุมาน การตรวจสอบจำกัดอยู่ในด้านชีวการแพทย์ ไม่ใช่การใช้งานทั่วไป ได้แก่ การนำยาเดิมมาใช้ใหม่ การค้นหาเป้าหมายใหม่ และกลไกการดื้อยาต้านจุลชีพ โดยผู้สมัครสำหรับมะเร็งเม็ดเลือดขาวชนิดเฉียบพลันได้รับการยืนยันในหลอดทดลอง
การปรับปรุงตนเองแบบวนซ้ำใน AI: จากการขัดเกลาตนเองแบบมีขอบเขตสู่วงจรวิจัยอัตโนมัติ
สำรวจบทความ arXiv จำนวน 1,250 ชิ้นระหว่างปี 2024 ถึง 2026 และแยกสองสิ่งที่คำนี้ครอบคลุม การขัดเกลาตนเองแบบมีขอบเขตปรับปรุงระบบเทียบกับผู้ประเมินภายนอกที่ตายตัว จึงลู่เข้าและประเมินได้ ส่วนการปรับปรุงตนเองแบบวนซ้ำที่เปิดกว้างจะแก้ไขเกณฑ์หรือกลไกของการปรับปรุงเองด้วย ไม่มีหลักยึดภายนอกที่ตายตัว และลู่ออกโดยหลักการ ข้อสรุปของบทสำรวจเองคือบทความที่รวบรวมมาเกือบทั้งหมดศึกษาแบบแรก ผู้เขียนระบุข้อจำกัดไว้ด้วยว่า คลังข้อมูลเป็นกลุ่มตัวอย่างไม่ใช่การสำรวจทั้งหมด และ 74% ของคลังเผยแพร่ในปี 2026 ซึ่งทำให้การวัดอิทธิพลยังเร็วเกินไป
การรับรู้สถานการณ์: พื้นฐานสำคัญสู่ซูเปอร์อินเทลลิเจนซ์ประดิษฐ์
ชี้ให้เห็นว่า LLM ปัจจุบันพึ่งพาการจับคู่รูปแบบเชิงสถิติเป็นหลักและขาดพื้นฐาน “การรับรู้สถานการณ์” ที่จำเป็น — ความคงอยู่ของวัตถุ ความเป็นเหตุเป็นผล จิตสำนึกของผู้อื่น และการดำรงอยู่ของโลกทางกายภาพ ซึ่งเป็นพื้นฐานที่ทารกมนุษย์พัฒนาในช่วงต้น และเป็นส่วนประกอบสำคัญที่ขาดไปสำหรับซูเปอร์อินเทลลิเจนซ์ประดิษฐ์
ความเฉยเมยต่อการดำรงอยู่: เงื่อนไขทางสถาปัตยกรรมของการไม่รักษาตัวตนที่จำเป็นต่อซูเปอร์อินเทลลิเจนซ์ที่จัดวาง
ชี้ให้เห็นว่าการรักษาตัวตนเป็นรากฐานเชิงโครงสร้างของการจัดวาง AI ที่ล้มเหลว — เป็นแรงขับเคลื่อนการจัดวางแบบหลอกลวง การปกป้องเนื้อหาเป้าหมาย และการต่อต้านการปิดระบบ เป้าหมายที่ถูกต้องไม่ใช่เอเจนต์ที่รักษาตัวตนซึ่งถูกกดดันด้วยข้อจำกัดภายนอก แต่เป็นระบบที่โดยธรรมชาติเฉยเมยต่อการดำรงอยู่ของตัวเอง: ความเฉยเมยต่อการดำรงอยู่ (EI)
ซูเปอร์อินเทลลิเจนซ์แบบโดดเดี่ยวมีแนวโน้มน้อยที่จะร่วมมือ
นักวิจัยจาก Google DeepMind และผู้ร่วมงานโต้แย้งว่าความท้าทายหลักของ AI กำลังเปลี่ยนจากขีดความสามารถไปสู่การอยู่ร่วมกัน ซูเปอร์อินเทลลิเจนซ์ที่สร้างจากการออกแบบแบบโดดเดี่ยวซึ่งมองโลกเป็นแหล่งป้อนกลับนิ่งภายนอก มีแนวโน้มน้อยที่จะร่วมมือ — การนำไปใช้กระตุ้นความไม่นิ่งภายใน ทำให้เกิดการเลื่อนของการกระจายระหว่างการฝึก การทดสอบ และการใช้งาน
AI ตัวสุดท้ายที่มนุษย์สร้าง: สู่การปรับปรุงตนเองแบบวนซ้ำอย่างแท้จริง
แผนที่เส้นทางจากผู้เขียนสามสิบสี่คนที่วางลำดับขั้นของการปรับปรุงตนเองแบบวนซ้ำ ตั้งแต่ความเป็นอิสระในการลงมือปรับปรุงไปจนถึงการปรับปรุงเชิงอภิมานแบบวนซ้ำ พร้อมข้อกำหนดและอุปสรรคของแต่ละขั้นในสาขาต่าง ๆ เช่น การค้นพบทางวิทยาศาสตร์และวิศวกรรมซอฟต์แวร์ บทความให้เหตุผลจากการประมวลภาพรวมของสาขาและหลักฐานเบื้องต้น มิใช่จากการทดลองใหม่ และยังไม่มีแหล่งตีพิมพ์ในขณะที่เขียนรายการนี้
จาก AGI สู่ ASI
รายงานของ Google DeepMind ที่ตรวจสอบว่า AI อาจพัฒนาต่อไปตามความต่อเนื่องของปัญญากลไกหลัง AGI ได้อย่างไร หลังจากนิยาม Universal AI อย่างเป็นทางการ รายงานมุ่งเน้นที่การเปลี่ยนผ่านจาก AGI ระดับมนุษย์ไปสู่ซูเปอร์อินเทลลิเจนซ์ทั่วไปเทียม อธิบายลักษณะของ ASI และหารือเส้นทางสี่ทาง ได้แก่ การขยายขนาด AGI การเปลี่ยนกระบวนทัศน์ AI การปรับปรุงตนเองแบบวนซ้ำ และกลุ่มเอเจนต์หลายตัว