AI-In-A-Box มอดูลแรกที่โต้ตอบด้วยภาษาธรรมชาติบนพื้นฐาน LLM ได้ โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ต

Useful Sensors บริษัทสตาร์ตอัปที่เน้น AI เปิดตัวมอดูล AI แรกของโลกเพื่อให้เป็นอุปกรณ์อิเล็กทรอนิกส์ที่สามารถโต้ตอบด้วยภาษาที่เป็นธรรมชาติ สำหรับใช้เฉพาะพื้นที่และในความเป็นส่วนตัว โดยไม่จำเป็นต้องมีบัญชีหรือการเชื่อมต่ออินเทอร์เน็ต ทั้งยังราคาประหยัด และหาซื้อได้ง่าย

มอดูล AI-In-A-Box ใหม่นี้สามารถตอบคำถามและบอกวิธีแก้ปัญหาได้คล้ายกับเครื่องมือ AI ที่อยู่บนฐานของการใช้โมเดลภาษาขนาดใหญ่ (LLM) ที่รู้จักกันดี แต่ด้วยเทคโนโลยีการบีบอัดและการเร่งความเร็วที่พัฒนาโดย Useful Sensors มอดูลนี้จึงโฮสต์ไฟล์ LLM ไว้ในเครื่อง ซึ่งช่วยให้ไมโครโปรเซสเซอร์ราคาประหยัด สามารถเข้าใจและตอบคำถามหรือตอบสนองคำสั่งด้วยภาษาพูดที่เป็นธรรมชาติได้ทันที โดยไม่ต้องอ้างอิงกับศูนย์ข้อมูล

เมื่อตัดการเชื่อมต่ออินเทอร์เน็ตออกไป มอดูล AI-In-A-Box จึงขจัดความกังวลของผู้ใช้เกี่ยวกับความเป็นส่วนตัว การสอดแนม หรือการพึ่งพาบริการคลาวด์ของบุคคลที่สามที่มีทั้งผลิตภัณฑ์และและบริการ AI ที่ใช้ LLM อย่างแพร่หลาย ซึ่งมักทำการตลาดโดยบริษัทเทคโนโลยีขนาดใหญ่

Pete Warden ผู้ก่อตั้งและซีอีโอของ Useful Sensors และอดีตผู้นำการโปรแกรม AI ของ Google กล่าวว่า — “มอดูล AI-In-A-Box ประกอบด้วยโมเดลขั้นสูงที่ผู้ใช้สามารถใช้พูดคุยได้อย่างเป็นธรรมชาติ โดยไม่ต้องเชื่อมต่อเครือข่าย บัญชี หรือเรียกใช้ API โดยที่ AI-In-A-Box สามารถให้ประโยชน์จากการเป็น AI ได้โดยสัญชาตญาณและเป็นธรรมชาติ ทั้งใช้ในการควบคุมอุปกรณ์ที่บ้าน การตอบคำถาม หรือเพียงแค่แชตกับอวตารด้วยภาษาที่เป็นธรรมชาติ อีกทั้งยังไม่ต้องแชร์ข้อมูลการสนทนาหรือข้อมูลอื่นใดของคุณกับบริษัทเทคโนโลยีขนาดใหญ่หรือผู้ให้บริการคลาวด์ เมื่อทุกการสนทนาอยู่กับกล่องที่บ้าน จึงมั่นใจได้ว่าอยู่ภายในกำแพงล้อมรอบทั้งสี่ด้านของผู้ใช้”

มีสมรรถนะสูงสำหรับการใช้ NLP เฉพาะพื้นที่

มอดูล AI-In-A-Box นำเสนอสมรรถนะการประมวลผลภาษาธรรมชาติ (NLP) คล้ายกับเครื่องมือที่อยู่บนพื้นฐานของ LLM ที่รู้จักกันดี โดยสามารถตอบคำถาม เล่าเรื่องราวต่างๆ และเรื่องตลก และแสดงความคิดเห็นในหัวข้อต่างๆ เช่น ศิลปะหรือกีฬา ในขณะที่เครื่องมืออื่นๆ เหล่านี้ต้องการอาร์เรย์ของ GPU ที่มีประสิทธิภาพสูงและราคาสูงไว้ที่โฮสต์ในศูนย์ข้อมูล มอดูล AI-In-A-Box ประกอบด้วยไมโครโปรเซสเซอร์ Arm® Cortex®-A-class สำหรับการใช้งานทั่วไปเพียงตัวเดียว ซึ่งนำมาใช้ดำเนินการในส่วนของ AI ทั้งหมด

นั่นหมายความว่า มอดูลนี้ได้จัดเตรียมแพลตฟอร์มฮาร์ดแวร์และซอฟต์แวร์สำเร็จรูปไว้สำหรับ OEM และนักพัฒนาที่ต้องการให้มีอินเทอร์เฟซผู้ใช้แบบทำงานด้วยเสียงได้ตามสัญชาตญานและเป็นธรรมชาติไว้สำหรับผลิตภัณฑ์อิเล็กทรอนิกส์ใดๆ นอกจากนี้ เนื่องจากซอฟต์แวร์ใช้ทำงานเฉพาะพื้นที่ ผู้ใช้จึงสามารถเลี่ยงความจำเป็นใดๆ ในการลงทะเบียนบัญชีหรือการกำหนดค่าระบบ ดังนั้นความกังวลในเรื่องความเป็นส่วนตัวจึงหมดไปโดยสิ้นเชิง

ความสามารถอื่นๆ ของมอดูลนี้ ได้แก่ การแสดงคำบรรยายการสนทนาในบริเวณใกล้เคียงในแบบเวลาจริง ซึ่งเป็นประโยชน์ต่อผู้ใช้ที่มีปัญหาการได้ยิน อีกทั้งในการอัปเกรดในส่วนที่พัฒนาขึ้นโดย Useful Sensors จะเพิ่มความสามารถในการแปลภาษาระหว่างภาษาอังกฤษกับภาษาอื่นๆ และความสามารถในการใช้กล่องเหมือนเป็นการใช้คีย์บอร์ดด้วยเสียง (ฟังก์ชันเปลี่ยนเสียงพูดเป็นข้อความ)

Useful Sensors บีบอัดไฟล์ LLM เข้าไปจัดเก็บไว้ในมอดูล AI-In-A-Box รวมทั้งซอฟต์แวร์ปฏิบัติการอื่นๆ ที่จัดหาโดย Useful Sensors เป็นรูปแบบของซอฟต์แวร์โอเพ่นซอร์สภายใต้สัญญาอนุญาต GPL v3 ข้อกำหนดสิทธิ์การใช้งานเชิงพาณิชย์ไว้สำหรับ OEM

มอดูล AI-In-A-Box มีจำหน่ายแล้วที่ CrowdSupply ในราคา 299 ดอลลาร์

ที่มา: Useful Sensors