สตาร์ทอัพของพีท วาร์เดนที่ชื่อ Useful Sensors ได้เปิดตัวแคมเปญระดมทุนครั้งใหม่สำหรับระบบประมวลผลภาษาธรรมชาติ (NLP) ที่ล้ำสมัย โมดูล "AI in a box" นี้ขับเคลื่อนโดยคอมพิวเตอร์บอร์ดเดี่ยวของ Rockchip และได้รับการออกแบบมาเพื่อทำงานที่ Edge ทำให้เข้าใจภาษาธรรมชาติ ตอบคำถาม และสร้างข้อความโดยไม่ต้องอาศัยทรัพยากรภายนอก

Useful Sensors ได้ใช้ประโยชน์จากส่วนประกอบฮาร์ดแวร์ที่มีจำหน่ายทั่วไปของ Rockchip ในการสร้างโมดูล NLP  นวัตกรรมใหม่นี้ ระบบของพวกเขาดำเนินการ OpenAI's Whisper เร็วขึ้นสองเท่าของ Faster-Whisper ระบบการใช้งานก่อนหน้านี้ เนื่องจากมีกลไกการอนุมานเฉพาะทาง

หัวใจของโมดูล NLP แบบ "AI in a box" คือ Rockchip RK3588S SoC ซึ่งมีคอร์ Quad-Arm Cortex-A76 และ Quad-Arm Cortex-A55 อันทรงพลัง พร้อมด้วยหน่วยประมวลผลประสาท (NPU) ที่พัฒนาขึ้นเองโดย Rockchip  มี 6 คอร์ TOPS (INT4) ของพลังการประมวลผล โดย NPU มีบทบาทสำคัญในการแปลงคำพูดให้เป็นข้อความอย่างมีประสิทธิภาพและเหนือกว่าคู่แข่งที่ใช้ฮาร์ดแวร์เดียวกัน

วาร์เดนเล็งเห็นวิธีใช้งานที่หลากหลายของเทคโนโลยีนี้เช่น คำบรรยายเหตุการณ์แบบเรียลไทม์ และการแปลแบบเรียลไทม์จาก 15 ภาษาหลักเป็นภาษาอังกฤษ เป็นการแสดงให้เห็นความสามารถในด้านการพิมพ์ด้วยเสียง และคำบรรยายแทนเสียง

แคมเปญการระดมทุน ซึ่งจัดขึ้นที่ Crowdsupply มีเป้าหมายในการมอบระบบนี้แก่ชุมชนเมกเกอร์ เพื่อส่งเสริมนวัตกรรมและความคิดสร้างสรรค์  วาร์เดนมองว่า มันเป็นแพลตฟอร์มในอุดมคติของบุคคลทั่วไปในการสร้างแอปพลิเคชันของตนเอง นอกเหนือจากการมีความสามารถในการถ่ายทอดคำพูดเป็นข้อความ

เวอร์ชันระดมทุนของระบบจะมาพร้อมกับกล่องที่ปรับแต่งได้เอง ทำให้เหมาะสมกับสถานการณ์ต่างๆ ไม่ว่าจะวางไว้บนโต๊ะในครัวเพื่อแปลงคำพูดเป็นคำบรรยายการสนทนา หรือเชื่อมต่อกับเอาต์พุต HDMI เพื่อแปลงเป็นคำบรรยายเหตุการณ์ หรือใช้ในการประชุมเพื่อแปลแบบเรียลไทม์ สามารถใช้งานได้อย่างยืดหยุ่น 

เป้าหมายสูงสุดของวาร์เดนคือ การย่อขนาดเทคโนโลยีนี้ให้เล็กลง และควบคุมไม่ให้มีราคาสูง โดยตั้งเป้า form factor และราคาของอุปกรณ์ขนาดเล็กไว้ที่ 50 เซ็นต์ วิสัยทัศน์นี้จะช่วยให้แอปพลิเคชัน AI แพร่หลายที่ Edge ซึ่งเป็นการปฏิวัติวิธีที่เราโต้ตอบกับเทคโนโลยี

ในขอบเขตของการเร่งความเร็ว Whisper นั้น Useful Transformers ได้นำโค้ด C++ ที่กำหนดเองมาใช้ ซึ่งผสานรวมกับไลบารี่การคูณเมทริกซ์ของ Rockchip ได้อย่างราบรื่น แม้ว่าบางส่วนของสแตกเป็น open source  ไลบารี่ที่ Rockchip จัดหาให้ยังคงเป็น closed source ที่นำมาใช้งานได้  Useful Sensors วางแผนที่จะปรับปรุงเฟิร์มแวร์ให้ก้าวหน้าขึ้น เพื่อเพิ่มความมั่นใจในด้านความเร็ว และประสิทธิภาพสูงสุด

นอกจากนี้ Useful Sensors ยังได้เปิดเฟรมเวิร์ก Useful Transformers ในรูปแบบ open source แม้ว่าปัจจุบันจะใช้งานได้เฉพาะกับอุปกรณ์ของ Rockchip และ Whisper เท่านั้น แต่บริษัทมีแผนที่จะขยายความเข้ากันได้ให้ครอบคลุมหม้อแปลงรุ่นอื่นๆ และฮาร์ดแวร์ในอนาคต

อีกทั้ง Useful Sensors กำลังพัฒนาโมดูลเซ็นเซอร์อย่างเต็มที่ เพื่อเสริมการใช้งานโมเดลที่เป็นกรรมสิทธิ์ของตนเอง ยกตัวอย่างเช่น เซ็นเซอร์บุคคลรุ่นปัจจุบันคือ บอร์ดขนาดกะทัดรัดที่มีกล้องและไมโครคอนโทรลเลอร์ระบบไร้สาย Espressif Systems ESP32-S3 หรือบอร์ดที่ใช้ไมโครคอนโทรลเลอร์ Raspberry Pi RP2040 และติดตั้งกล้อง LG มีไว้สำหรับอ่านรหัส QR โค้ด

กล่าวโดยสรุป Useful Sensors เป็นเครื่องมือที่อยู่ในระดับแนวหน้าของนวัตกรรม มีการนำเสนอภาพอนาคตของ AI ที่ล้ำหน้าด้วยโมดูล NLP "AI in a box" เทคโนโลยีนี้มีศักยภาพในการเปลี่ยนแปลงวิธีที่เราใช้โต้ตอบกับ AI ทำให้สามารถเข้าถึงได้มากขึ้น และมีความหลากหลายมากกว่าที่เคย