รัน Local LLM บนมือถือ Android ด้วย LiteRT

ใครบอกว่าคุณต้องใช้ PC เครื่องแรงๆ ถึงจะรัน AI ได้? Tavern Studio นำพลังของ Local LLM มาสู่ฝ่ามือของคุณ ด้วยเอนจิน LiteRT ที่ถูกปรับแต่งมาเป็นพิเศษสำหรับสมาร์ทโฟนและแท็บเล็ต Android

AI บนมือถือแบบออฟไลน์

แอป Tavern Studio บน Android ไม่ได้เป็นแค่หน้าเว็บ แต่เป็น Native App ที่สามารถรันโมเดลขนาดเล็ก (เช่น โมเดลตระกูล 1B-3B พารามิเตอร์) ได้ด้วยตัวเครื่องเอง:

• ไม่ต้องต่อเน็ต: คุยกับบอทบนรถไฟหรือตอนไปแคมป์ปิ้งได้สบาย
• ประหยัดแบตเตอรี่: LiteRT ออกแบบมาเพื่อการประมวลผลบนชิปมือถือ จึงใช้พลังงานน้อยกว่าการพอร์ตโค้ดจากคอมพิวเตอร์มาตรงๆ
• ฟอร์แมตที่รองรับ: ปัจจุบันรองรับโมเดลฟอร์แมตที่ผ่านการแปลงให้เข้ากับ LiteRT เพื่อประสิทธิภาพสูงสุด

เปลี่ยนสมาร์ทโฟนของคุณให้เป็นผู้ช่วยส่วนตัวและเพื่อนร่วมผจญภัยที่ไปกับคุณได้ทุกที่