‘เป็นคนดีแล้วได้อะไร’ เป็นประโยคที่หลายคนรำพึงในใจเมื่อเห็นข่าวในแต่ละวัน สมัยก่อนความเป็นคนดีคือ เครดิตชั้นพิเศษที่ก้าวข้ามกฎระเบียบ นายธนาคารอาจให้กู้เงิน เพราะลื้อเป็นคนดี อั๊วรู้จักครอบครัวลื้อมานาน ไม่ต้องห่วงเรื่องหลักทรัพย์ค้ำประกัน มีเมื่อไรก็เอามาคืน ปัจจุบันระเบียบการเงินสมัยใหม่แข็งแรง ธนาคารไม่ได้ตัดสินใจจากความเป็นคนดี แต่ตัดสินใจจากค่าเครดิตทางการเงิน ซึ่งคำนวณจากความสามารถในการชำระหนี้ของผู้กู้

ระเบียบการเงินสมัยใหม่นี้ ช่วยลดความเสี่ยงที่ธนาคารจะประสบปัญหาหนี้เสีย แต่ข้อเสียคือ คนจนเข้าถึงเงินทุนยากมาก เพราะวิธีคำนวณเครดิตทางการเงินในปัจจุบัน คนที่ไม่ทำงานประจำ หรือมีหลักทรัพย์น้อย จะมีเครดิตทางการเงินต่ำเกินกว่าจะกู้เงินได้

ประเทศไทยมีอัตราส่วนของแรงงานนอกระบบอยู่ถึง 55 % ของแรงงานทั้งประเทศ ธนาคารแห่งประเทศไทยจึงริเริ่มให้มีสินเชื่อส่วนบุคคลดิจิทัลขึ้น เพื่อขยายโอกาสให้กับคนกลุ่มใหญ่ สินเชื่อแบบใหม่นี้ จะพิจารณาสินเชื่อโดยใช้ข้อมูลทางเลือกอื่น ๆ เข้ามาประกอบการตัดสินใจ เช่น การชำระค่าน้ำ ค่าไฟ ค่าโทรศัพท์ รายได้หรือพฤติกรรมการซื้อขายออนไลน์ ^[1] แนวทางนี้คล้ายกับ Sesame credit จีน แต่ยังไม่กว้างไกลไปจนถึงขั้นใช้เปลี่ยนพฤติกรรมประชาชนอย่างจีน

โอกาสมาก คนฉวยโอกาสก็มาก

ปีพ.ศ. 2554 ประชาชนจีนหนึ่งในสามคนเท่านั้นที่มีบัญชีธนาคาร แต่ภายในสิบปีมานี้ ประเทศจีนมีอัตราการเติบโตทางเศรษฐกิจสูง จนมีขนาดเศรษฐกิจใหญ่เป็นอันดับสองของโลก ความน่าเชื่อถือจึงเป็นปัญหาใหญ่ของสังคม คนพร้อมที่จะฉวยโอกาสเพื่อความร่ำรวย ปีพ.ศ. 2557 รัฐบาลกลางจึงประกาศในแผนบริหารประเทศว่า จะมีระบบประเมินความเป็นคนดี (Social Credit System) ของบุคคลและองค์กรต่าง ๆ ^[2]  โดยประมวลผลจากการปฏิสัมพันธ์ต่อรัฐ  ธุรกรรมทางการเงิน ตลอดจนพฤติกรรมในสังคม รัฐจะให้รางวัลผู้เป็นคนดีตามที่รัฐพึงประสงค์ และลงโทษผู้มีคะแนนความเป็นคนดีต่ำ

ปัจจุบันจีนยังอยู่ในช่วงทดลองระบบนี้ โดยมีระบบต้นแบบเป็นจำนวนมาก ทั้งในระดับองค์กรและท้องถิ่น แต่ละต้นแบบใช้ข้อมูลและวิธีคำนวณต่างกันไป  ต้นแบบที่คนพูดถึงเยอะที่สุดคือ Sesame credit ภายใต้อาลีบาบากรุ๊ป (เจ้าของคือแจ๊ค หม่า)   ซึ่งใช้ข้อมูลจากการใช้งานแพลตฟอร์มต่าง ๆ ในเครืออาลีบาบา แล้วคำนวณเครดิตด้วยปัญญาประดิษฐ์ ผลของเครดิตนี้นอกเหนือจะใช้กู้เงินแล้ว ยังขยายขอบเขตไปถึงบริการอื่น ๆ เช่น จองโรงแรม หรือเช่ารถโดยไม่ต้องวางมัดจำ รวมถึงมีโอกาสมากขึ้นในการหาคู่รักผ่านแอปพลิเคชันหาคู่

ลงโทษคนดื้อด้วยการตัดสิทธิ์

ระบบต้นแบบของท้องถิ่นไม่ได้ใช้คะแนนความเป็นคนดี (social credit) ในการให้กู้เงิน แต่ใช้กำกับพฤติกรรมของประชาชนโดยตรง ตัวอย่างการลงโทษผู้ที่มีคะแนนความเป็นคนดีต่ำที่เคยเกิดขึ้น เช่น ไม่มีสิทธิ์ซื้อตั๋วเครื่องบินหรือรถไฟ  ไม่ให้พักโรงแรมดี ๆ ถ้าถูกขึ้นบัญชีดำแล้ว ไม่สามารถเข้าทำงานในรัฐวิสาหกิจหรือบริษัทใหญ่ ๆ หากทำธุรกรรมใด ๆ ก็จะถูกตรวจสอบมากกว่าปกติ  รวมถึงไม่ให้ลูกเข้าเรียนในมหาวิทยาลัย  ระบบต้นแบบเหล่านี้ไม่ระบุชัดเจนว่าใช้พฤติกรรมใดคำนวณคะแนนความเป็นคนดี  ใช้เพียงการกล่าวอ้างที่คลุมเครือ  กินความกว้างขวางเกินข้อกฎหมาย  ทั้งยังเอาค่านิยมในสังคมมารวมด้วย เช่น จ่ายค่าน้ำ ค่าไฟเลยกำหนด แชร์ข่าวปลอม สูบบุหรี่ในที่ห้ามสูบ ไม่ใช้สายจูงสุนัข การนั่งผิดที่ในรถไฟ ใช้เวลาเล่นเกมมากเกินไป ซื้อของฟุ่มเฟือย ทั้งนี้ผู้ถูกขึ้นบัญชีดำว่าเป็นคนไม่ดี สามารถยื่นอุทธรณ์ต่อศาลขอถอดชื่อตัวเองออกจากบัญชีได้ แต่เพราะไม่มีการระบุว่าพฤติกรรมใดที่ทำให้ถูกขึ้นบัญชีดำ จึงเป็นเรื่องยากที่จะพิสูจน์ความดีหรือความซื่อสัตย์ต่อรัฐ

แต่ละท้องถิ่นใช้ข้อมูลและวิธีคำนวณคะแนนความเป็นคนดีต่างกันไป ด้วยเหตุที่ไม่เปิดเผยว่าใช้ข้อมูลใดบ้าง  และวิธีคำนวณก็เปลี่ยนเรื่อย ๆ ตามปัญญาประดิษฐ์ ทั้งยังต้องสงสัยว่ามีการติดตามเก็บข้อมูลระบุตัวบุคคลผ่านกล้องวงจรปิดทั่วเมือง จึงทำให้ระบบนี้ดูคลุมเครือ รวมทั้งพบว่าท้องถิ่นต่าง ๆ มีแนวโน้มใช้คะแนนนี้เพื่อลงโทษคน ส่วนการจูงใจให้ทำดีก็เกิดขึ้นน้อย เป็นการใช้ความกลัวกำกับพฤติกรรมคน จึงมีผู้นิยามระบบนี้ว่าเป็นการปกครองแบบเผด็จการดิจิทัล เปรียบได้กับ Big Brother ในนิยายเรื่อง 1984 ของ George Orwell

ถ้าหากนำการลงโทษในท้องถิ่นต่าง ๆ และสิทธิพิเศษที่รัฐอาจให้ได้มาประกอบเข้าเป็นระบบ Social Credit System ^[3]

– ผู้เป็นคนดีตามที่รัฐพึงประสงค์ : จะได้สิทธิ์เรียนและทำงานดี ๆ เติบโตในหน้าที่การงานไว ไม่ต้องจ่ายภาษี กู้เงินง่าย เช่าจักรยานและรถโดยไม่ต้องวางมัดจำ จ่ายค่าโดยสารรถสาธารณะในราคาถูก  ลัดคิวโรงพยาบาล ใช้ฟิตเนสฟรี ลัดคิวที่พักอาศัยของรัฐ
– ผู้ไม่รักดี : จะไม่มีสิทธิ์เข้าถึงบริการสาธารณะและบริการของรัฐ ไม่สามารถบรรจุเป็นข้าราชการ ไม่มีสิทธิ์เข้ามหาวิทยาลัยเอกชน ไม่สามารถซื้อตั๋วเครื่องบินหรือรถไฟ กู้เงินยาก ประจานชื่อ รูป และเลขประจำตัวประชาชนออกสื่อสาธารณะ
– ตัวอย่างการกระทำที่จะเสียคะแนนความเป็นคนดี เช่น ประท้วงผู้มีอำนาจโดยไม่ได้รับอนุญาต โพสต์ข้อความไม่เห็นด้วยกับรัฐในโซเชียลมีเดีย ไม่ไปเยี่ยมพ่อแม่เป็นประจำ ขอโทษอย่างไม่จริงใจ โกงเกมออนไลน์ อยากให้สังเกตว่าทั้งหมดนี้ไม่ใช่เรื่องผิดกฎหมาย แค่ผิดค่านิยมในสังคม

คนในยอมรับ คนนอกต่อต้าน

ประชาคมโลกวิจารณ์การใช้ปัญญาประดิษฐ์ในแนวทางนี้หนักมาก ทั้งในแง่การไม่สนับสนุนเสรีภาพทางความคิดของบุคคลตามแนวคิดประชาธิปไตย และขัดต่อหลักสิทธิมนุษยชน ตลอดจนการกีดกันชนกลุ่มน้อยในเขตปกครองตนเองซินเจียงอุยกูร์ มีหลักฐานว่า รัฐใช้เทคโนโลยีจดจำใบหน้า เพื่อเก็บข้อมูลระบุตัวบุคคลในเชิงเหยียดชาติพันธุ์ ^[4] ควบคู่กับการนำชาวอุยกูร์เข้าค่ายปรับทัศนคติซินเจียง

อย่างไรก็ดีประชากรจีนเกินกว่าครึ่งแสดงความคิดเห็นว่ายอมแลกเสรีภาพของตนกับเรื่องนี้ ^[5][6] เพราะการฉ้อโกง การหลอกลวงเป็นเรื่องที่พบบ่อยในสังคมจีน บทลงโทษทางกฎหมายไม่รุนแรงพอจนคนผิดกล้าทำผิดซ้ำ ระบบประเมินความเป็นคนดีนี้ช่วยเปลี่ยนนิสัยคนได้จริง “ฉันรู้สึกว่าหกเดือนที่ผ่านมา พฤติกรรมคนดีขึ้น เช่น ตอนนี้เราหยุดรถตรงทางม้าลาย ถ้าไม่หยุดจะเสียแต้ม เราเคยกังวลเรื่องจะเสียแต้มแหละ แต่ตอนนี้เราชินกับการทำตามกฎจราจรแล้ว” ^[7]

เรื่องนี้ไม่ใช่เรื่องใหม่ในสังคมจีน มีสุภาษิตจีนที่สะท้อนความคิดเรื่องนี้ เช่น ฟ้าเห็นทุกการกระทำ (人在做, 天在看) การปฏิรูปการปกครองในสมัยจิ๋นซีฮ่องเต้ ใช้วิธีให้เพื่อนบ้านรายงานผู้ทำผิดให้ทางการรับทราบ ผู้รายงานได้รางวัล แต่หากปกปิดไม่รายงานจะถูกลงโทษทั้งหมู่บ้าน ระบบ Social Credit System จึงเป็นชุดความคิดเดิมในการเปลี่ยนพฤติกรรมคน แค่ใช้เทคโนโลยีสมัยใหม่

ไปต่อไม่สะดุด

ถึงแม้รัฐบาลกลางจะกำหนดให้ระบบนี้แล้วเสร็จภายในสิ้นปีพ.ศ.2563 แต่ปัจจุบันก็ยังไม่มีระบบต้นแบบใดที่แข็งแรงพอจนสามารถครอบคลุมใช้ได้ทั้งประเทศ ถึงจีนจะถูกต่างประเทศกดดันจากปัญหาสิทธิมนุษยชน แต่แนวโน้มโครงการนี้ยังเดินหน้าต่อ ปัจจัยสำคัญคือ รัฐคุ้นเคยกับการต่อยอดนโยบายในวงกว้างจากสนามทดสอบนโยบาย (regulatory sandbox) การรวมคนจากชนบทเข้าเมือง และเทคโนโลยีเมืองอัจฉริยะ ถ้าหากโครงการหนึ่งแถบหนึ่งเส้นทางคือโครงการหลักนอกกำแพงเมืองจีน โครงการนี้ก็คือโครงการหลักในกำแพงเมืองจีน

ประเทศไทยกำลังส่งเสริมเมืองอัจฉริยะ ไม่ใช่เพราะตามรอยจีน แต่เมืองอัจฉริยะเป็นกระแสการพัฒนาเมืองในปัจจุบัน ^[8] สมมุติว่า AI ของเมืองอัจฉริยะสามารถให้สิทธิ์พิเศษกับประชาชนโดยไม่ต้องรอการอนุมัติจากผู้มีอำนาจ เช่น เปิดไฟเขียวให้รถพยาบาล คุณอยากให้ AI ใช้เกณฑ์ใดในการตัดสิน จะใช้เกณฑ์ความดีของบุคคลอย่างจีนหรือเปล่า นี่คืออนาคตอันใกล้ที่ยังไม่มีคำตอบ

Our Writer

ธีรนิติ์ เจียรพัฒนาคม

ถ้าจัดเวลาได้ก็ทำละครเวที ถ้าจัดเวลาไม่ได้ก็ทำงานเกี่ยวกับข้อมูลขนาดใหญ่ การเปลี่ยนแปลงองค์กรใหญ่ให้แข่งขันได้ในยุคดิจิทัล งานอดิเรกคือให้คำปรึกษาเรื่องการตลาดดิจิทัลและการวิเคราะห์เสียงประชาชนในโซเชียลมีเดียกับคนรู้จัก

เอกสารอ้างอิง

[1] “ธปท.ไฟเขียวกู้เงิน “ออนไลน์” ใช้ “ค่าน้ำ-ไฟ” ประเมินสินเชื่อ,” [Online]. Available: https://www.thairath.co.th/news/business/finance-banking/1932065. [Accessed 02 11 2020].
[2] “Establishment of a Social Credit System,” [Online]. Available: https://www.chinalawtranslate.com/en/socialcreditsystem/. [Accessed 02 11 2020].
[3] A. Boquen, “An Introduction to China’s Social Corporate Credit System,” [Online]. Available: https://nhglobalpartners.com/chinas-social-credit-system-explained/. [Accessed 02 11 2020].
[4] P. Mozur, “One Month, 500,000 Face Scans: How China Is Using A.I. to Profile a Minority,” [Online]. Available:
https://www.nytimes.com/2019/04/14/technology/china-surveillance-artificial-intelligence-racial-profiling.html. [Accessed 02 11 2020].
[5] X. Wang, “Hundreds of Chinese citizens told me what they thought about the controversial social credit system,” [Online]. Available: https://theconversation.com/hundreds-of-chinese-citizens-told-me-what-they-thought-about-the-controversial-social-credit-system-127467. [Accessed 02 11 2020].
[6] S. Yan, “The village testing China’s social credit system: driven by big data, its citizens earn a star rating,” [Online]. Available: https://www.scmp.com/magazines/post-magazine/long-reads/article/3012574/village-testing-chinas-social-credit-system. [Accessed 02 11 2020].
[7] A. Ma, “China has started ranking citizens with a creepy ‘social credit’ system — here’s what you can do wrong, and the embarrassing, demeaning ways they can punish you,” [Online]. Available: https://www.businessinsider.com/china-social-credit-system-punishments-and-rewards-explained-2018-4. [Accessed 02 11 2020].
[8] F. Grijpink et al., “Connected world: An evolution in connectivity beyond the 5G revolution,” [Online]. Available: https://www.mckinsey.com/industries/technology-media-and-telecommunications/our-insights/connected-world-an-evolution-in-connectivity-beyond-the-5g-revolution. [Accessed 02 11 2020].