ใครอยากได้ AI ส่วนตัว ยกมือขึ้น #siamstr 🙋
Discussion
อยากรู้ว่า personal AI มันไปเอาถังข้อมูลมาจากไหนหรอคะ
แล้วถ้าสมมติว่าเราอ่านหนังสือ แล้วเราป้อนความรู้ให้ AI ไป ข้อมูลนี้มันจะถูกเผยแพร่ไหม?
โดยปกติฐานข้อมูลพวกนี้ เป็นโมเดลที่มีคนสอน AI ไว้ระดับนึงแล้วค่อยเอามาปรับจูนตามความต้องการของเราครับ เราสามารถป้อนข้อมูลในหนังสือแล้วให้ AI สรุป มาให้ก็ได้ ส่วนจะถูกเผยแพร่หรือไม่ ก็ขึ้นอยู่กับว่าเราใช้กับ AI เจ้าไหน
ถ้าเราทำเองอย่างในภาพ ข้อมูลจะอยู่ในคอมเราครับ
ถ้าเราอยากส่ง AI ของเราเข้าสังคมไปแลกเปลี่ยนข้อมูลใหม่ๆกับคนอื่น ก็ต้องปล่อยให้ AI เราไปวิ่งเล่นในทุ่งหญ้าของคนอื่นๆด้วย แบบนั้นใช่ไหมคะ หรือ มันคิดเองต่อได้ โดยไม่ต้องอาศัยข้อมูลภายนอกแล้ว
ยังไม่ถึงขั้นนั้นครับ ขั้นตอนการทำให้มันเก่งค่อนข้างต้องการใช้เครื่องที่แรงมาก และต้องการชุดข้อมูลอีกมหาศาล ตัวโมเดลที่เอามาใช้ตามคอมทั่วไปจะไม่โหดขนาดนั้น(ของผมRam16GB ใช้โมเดล 13b) นี่หืดขึ้นคอถ้าไม่มี GPU โมเดลที่โหด ๆ เลยจะต้องการคอมที่แรงเวอร์หน่อย ๆครับ อย่างเช่นตัวที่เทรนมา 70b ชุดข้อมูลใช้แรม 60GB++
//b = billion ชุด
ยังเดาไม่ออกว่าถ้าให้มันเก่งได้ด้วยตนเองต้องใช้ทรัพยากรขนาดไหน
เอามาเทรนต่อได้เองเลยเหรอครับ
ถ้ามีข้อมูลเทรนได้ครับ แค่คอมจะร้อน ๆ หน่อย
แต่ถ้าหมายถึงมันเก่งขึ้นเองยังไม่ได้ครับ
ในโน๊ตนี้ผมหมายถึงเอามาทำให้มันจำบทสนทนาได้
ทำให้พูดกันเหมือนจะรู้เรื่อง และต่อเนื่องครับ
อยากได้ครับ.. แล้วยัดข้อมูล #พุทธวจน ให้มัน ที่นี้ก็น่าสนุก
ดึก ๆ จะมาเหลาให้นะครับ ☮️
เริ่มตรงไหนดีฮะ
ผมศึกษา Rust-WASM จากคลิปนี้แล้วเจอว่าเค้าทำตัวแชทไว้ครับอาจารย์
เราแค่ไปหา Model มาใส่ จากเว็บ huggingface หรือเทรนเองก็ได้ครับ
https://huggingface.co/models?sort=trending&search=GGML
ปรับได้หลายแบบ ตัวอย่างจะเป็น model ของ GGML
ดึก ๆ ผมจะเขียนอธิบายให้สำหรับ Windows/Linux/MacOS ต้องตั้งค่ายังไง
เพราะของเดิมเค้าตั้งมาเป็น MacOS ครับ
อยากเริ่มแต่หาทางไปไม่ถูก เข้า huggingface ก็ไปนั่งงง 555
จะรีบทำธุระแล้วจะมาเหลานะครับ😍
Try comparing them on real usecase then decide how it goes.
Me, with short-term context memory and Long term. Also ability to serch web, access & retrive data from docs. So, Im trying craft standalone Android native myself right now
That would be nice to have a second head to summarized any docs when needed. 🤤
If you have an AI that can remember everything you've talked about in each session without limitations on memory capacity, has the ability to conduct online research to address the limitations of knowledge base updates, and can read documents to digest specific information without engaging in lengthy conversations, it would be incredibly helpful.
I don't have the ability to develop like a Dev does; I am constantly learning. The selected tech stack includes Kotlin, Room, Ktor, and Compose, which have recently passed authentication testing.
อยากได้แบบสรุปได้จากไฟล์ที่อัพโหลด