ในเดือนพฤษภาคม 2025 รายการหนังสืออ่านหน้าร้อนลงใน Chicago Sun-Times และอย่างน้อยหนึ่งฉบับของ The Philadelphia Inquirer สิบห้าเล่มที่ให้เครดิตผู้เขียนมีชื่อเสียง และมีหนังสือจริงแค่ห้าเล่ม NPR สืบย้อนไปถึงคอนเทนต์ที่ได้รับอนุญาตผ่าน King Features หน่วยงานของ Hearst และนักเขียนฟรีแลนซ์ที่ภายหลังบอกว่าบางส่วนสร้างโดย AI และความผิดพลาดเป็นของเขา Sun-Times บอกว่ารายการไม่ได้ถูกสร้างหรืออนุมัติโดยห้องข่าวของตน มันผิดครั้งเดียวที่ต้นทาง และการซินดิเคตทำที่เหลือ
การที่ข้อผิดพลาดขยายตัวคือสิ่งที่เกิดขึ้นเมื่อ AI ลงมือทำโดยไม่มีขั้นตอนการตรวจสอบโดยมนุษย์ ข้อผิดพลาดไม่ได้อยู่แค่ที่ที่มันเกิด สถิติที่แต่งขึ้นอย่างน่าเชื่อ หรือคำกล่าวอ้างเรื่องการวางตำแหน่งที่เบี่ยงไปไม่กี่องศาจากตัวตนจริงของธุรกิจ ผ่านการตรวจครั้งเดียวแล้วก็ถูกผลิตซ้ำในทุกชิ้นงานที่ระบบสร้างจากมัน ข้อผิดพลาดไม่ได้แค่เกิดขึ้น แต่ถูกทำให้เป็นอุตสาหกรรม
หนึ่งโพสต์เทียบกับทุกชิ้นงาน
ข้อเท็จจริงที่ผิดของคนอยู่ในบล็อกโพสต์เดียว ใครสักคนจำตัวเลขผิดหรือเอาคำพูดไปใส่ผิดปาก ผู้อ่านสังเกตเห็น และการแก้ไขครั้งเดียวก็จบ เพราะความผิดพลาดนั้นต้องถูกยกด้วยมือไปยังที่อื่นๆ ทุกที่ที่มันไปได้ และส่วนใหญ่ก็ไม่เคยถูกยกไป ข้อเท็จจริงที่ผิดของเครื่องจักรอยู่ในทุกชิ้นงานที่สร้างจากพรอมต์เดียวกัน บทความ ลำดับอีเมลที่เขียนจากบทความ โพสต์โซเชียลที่ตัดจากอีเมล สไลด์ขายที่อ้างโพสต์ และแต่ละสำเนาอ่านลื่นไหลเหมือนประโยคจริงที่อยู่รอบๆ
ระบบอัตโนมัติขยายความผิดพลาดมานานก่อนโมเดลภาษา ที่บริษัทที่ปรึกษาการเงินแห่งหนึ่ง ระบบอัตโนมัติ ActiveCampaign เพียงอันเดียวส่งอีเมลออกไป 16,000 ฉบับ ความเร็วเอาเบรกตามธรรมชาติของข้อผิดพลาดออกไป ขั้นตอนที่ช้าและเป็นของมนุษย์ซึ่งเคยจับความผิดพลาดได้ คือการพิสูจน์อักษร การอ่านรอบสอง เพื่อนร่วมงานที่ถามว่าตัวเลขมาจากไหน เป็นขั้นตอนที่ระบบอัตโนมัติลบทิ้งพอดี เพราะมองจากข้างนอกมันดูเหมือนความสิ้นเปลือง
ข้อผิดพลาดที่ขยายขนาดสองแบบ
สถิติที่แต่งขึ้นคือแบบที่มองเห็นได้ มันเข้ากับข้อโต้แย้ง มาในร้อยแก้วมั่นใจเหมือนข้อเท็จจริงที่ตรวจสอบแล้ว และถูกอ้างเพราะอ้างง่าย ภาพหลอน คือเครื่องจักรผลิตประโยคที่หน้าตาเหมือนข้อเท็จจริงโดยไม่มีอะไรรองรับ ดูไม่ต่างจากความจริงบนหน้ากระดาษ และปรากฏตัวก็ต่อเมื่อมีคนตรวจกับแหล่งที่มา
คำกล่าวอ้างเรื่องการวางตำแหน่งที่เลื่อนไหลเงียบกว่า เพราะไม่มีชิ้นไหนผิดมากพอจะให้หยุด แต่ข้ามห้าสิบชิ้น ธุรกิจเริ่มสัญญาสิ่งที่ไม่เคยตัดสินใจจะสัญญา และฟังดูเหมือนหมวดหมู่ของตัวเองแทนที่จะเป็นตัวเอง ความไม่สม่ำเสมอเป็นสิ่งที่ผมถือว่าเป็นสัญญาณของงานสมัครเล่นมาตลอด และการเลื่อนไหลคือความไม่สม่ำเสมอที่ผลิตด้วยความเร็วของเครื่องจักร การอ่านเพื่อดูคุณภาพจับไม่ได้ทั้งสองแบบ การตรวจเทียบกับความจริงจับได้ทั้งคู่
ต้นทุนทบต้น
การแก้ข้อผิดพลาดที่ขยายแล้วหมายถึงต้องหาทุกสำเนา และคุณมักเจอหลังลูกค้าหรือหน่วยงานกำกับเจอก่อน ในเดือนมกราคม 2023 CNET ออกการแก้ไขใน 41 จาก 77 เรื่องที่เผยแพร่โดยใช้เครื่องมือ AI และการตรวจสอบภายในที่พบมันมาหลังรายงานจากภายนอกดึงข้อผิดพลาดออกจากเรื่องหนึ่งในนั้นต่อสาธารณะไปแล้ว
เวอร์ชันฝั่งลูกค้าเล็กกว่าแต่แพงกว่าต่อคำ ในปี 2022 แชตบอตบนเว็บไซต์ของ Air Canada บอกผู้โดยสารคนหนึ่งว่าเขาจองตั๋วราคาเต็มไปงานศพคุณยายก่อนแล้วค่อยขอส่วนลดกรณีสูญเสียญาติภายหลังได้ ซึ่งไม่ใช่นโยบายของสายการบิน และเมื่อเขายื่นขอ สายการบินก็โต้แย้งว่าแชตบอตต้องรับผิดชอบการกระทำของตัวเอง คณะตุลาการระงับข้อพิพาทพลเรือนของบริติชโคลัมเบียไม่เห็นด้วย และสั่งให้ Air Canada จ่าย $812.02 โดยให้เหตุผลว่าบริษัทต้องรับผิดชอบข้อมูลทั้งหมดบนเว็บไซต์ของตน ไม่ว่าจะมาจากหน้าเว็บคงที่หรือจากแชตบอต คำตอบที่ถูกสร้างขึ้นเพียงคำตอบเดียวกลายเป็นนโยบายที่ธุรกิจไม่เคยเขียน แต่ก็ยังต้องรับผิดชอบ
ต้นทุนด้านความไว้วางใจก็เป็นแบบเดียวกัน ผมเห็นว่าการเบี่ยงเบนจากความจริงทุกครั้งจะบังคับให้ลูกค้าต้องอธิบายคำพูดของคุณให้ตัวเองฟังในที่สุด และคำอธิบายที่เหลือมีแค่ว่าคุณไม่รู้ ไร้ความสามารถ เห็นแก่ตัวโดยไม่ตั้งใจ หรือมุ่งร้าย ไม่มีข้อไหนที่แก้ได้ด้วยการเผยแพร่เร็วขึ้น บน The Trust Algorithm การแต่งเรื่องในระดับใหญ่คือAuthority Theatre ที่เกิดขึ้นโดยบังเอิญ และมันล่มสลายแบบเดียวกัน เพราะความน่าเชื่อถือที่ยืมมาไม่เคยมีอยู่จริง
Q3 คือขั้นที่คุณส่งมอบไม่ได้
Q3 คือการตรวจสอบโดยมนุษย์ ขั้นที่สามจากสี่ขั้นของวงจรที่ทำงานภายในกรอบแนวคิด 4-Quadrant ที่คนตรวจสิ่งที่เครื่องผลิตเทียบกับความจริงก่อนนำไปใช้ใดๆ เป็นขั้นเดียวที่มอบหมายไม่ได้ ข้ามมันเพื่อประหยัดเวลา คุณประหยัดเวลาได้ครั้งเดียว แล้วจ่ายแพงกับทุกชิ้นงานที่ข้อผิดพลาดไปถึง
ความจริงที่ถูกตรวจสอบต้องอยู่ที่อื่นที่ไม่ใช่ความจำของผู้ตรวจสอบ และที่นั่นคือSystem Seed แหล่งเดียวของสิ่งที่ธุรกิจรู้ ฟังดูเป็นอย่างไร และข้อเท็จจริงใดผ่านการตรวจสอบ เมล็ดพันธุ์ ป้อนเครื่องจักรใน Q2 และเป็นเกณฑ์วัดใน Q3 ผู้ตรวจสอบจึงไม่ได้ถามว่าประโยคอ่านลื่นไหม พวกเขากำลังถามว่าตัวเลขนี้อยู่ใน เมล็ดพันธุ์ หรือเปล่า คำสัญญานี้เป็นคำสัญญาที่ธุรกิจเคยให้ไหม และข้ออ้างนี้จะผ่านสิ่งที่ Traffic + Offer เรียกว่าตำรวจตอแหล เมื่อใช้กับผลผลิตของเครื่องจักรไหม สถิตินี้จะรอดการตรวจสอบข้อเท็จจริงหรือไม่?
เมื่อคำตอบคือไม่ การแก้ไปที่ต้นทาง ไม่ใช่ที่ประโยค แก้ เมล็ดพันธุ์ แล้วการแก้ไขเดินทางไปถึงทุกชิ้นงานที่สร้างจากมัน ซึ่งคือกลไกการขยายที่ทำงานย้อนกลับ และเป็นงานที่การอัปเดตแบบลดหลั่นมีอยู่เพื่อทำ
ตัว เมล็ดพันธุ์ เองก็ถูกตรวจเทียบกับหลักฐาน ไม่ใช่เทียบกับความจำ ข้อเท็จจริงที่สืบกลับไปหาหลักฐานไม่ได้จะไม่เข้า เมล็ดพันธุ์ และหน้าที่ต้องการข้อเท็จจริงที่ เมล็ดพันธุ์ ไม่มีจะได้คำถามส่งกลับ ไม่ใช่ประโยค ซึ่งเป็นกฎของผู้ตรวจสอบที่ย้ายไปอยู่ที่เดียวที่การแก้ครั้งเดียวไปถึงทุกสำเนา
การตรวจสอบที่ควรทำ
เลือกตัวเลขหนึ่งตัวที่องค์กรของคุณเผยแพร่ในไตรมาสที่ผ่านมา แล้วหาทุกที่ที่ตัวเลขนั้นปรากฏอยู่ตอนนี้ ทั้งหน้าเว็บ อีเมล โพสต์ สไลด์ และข้อเสนอ จากนั้นไล่กลับไปหาแหล่งที่มา ถ้าคุณหาสำเนาไม่ครบทุกชิ้น แปลว่าองค์กรผลิตงานได้เร็วกว่าที่แก้ไขทัน ถ้าคุณหาแหล่งที่มาไม่เจอ สำเนาทั้งหมดก็ไม่เคยเป็นความจริงเลย การวินิจฉัย ทดสอบในแนวเดียวกันกับทั้งสี่ควอแดรนต์