Avatar
FWEnoir
0d119c15a5495d0c14a415f55823acb5547b3b0064190a9a3db92ed66d7b1b39
隨手筆記 / AI / LLM / Golang / Flutter / Software Engineering / 台灣 / Taiwan

開睡 #pokemon #pokemonsleep

A daily AI image theme, today's theme is 'Sunset and Beach'.

#AI #midjourney #sunset

https://void.cat/d/7eUvWAZcq6ihCpAGMiGtib.webp

Daily Active User,每日活躍用戶數量。 Threads 給我一種只剩下網紅推文,一些朋友啟動時玩了一會,現在都回到 Instagram。

蠻好奇目前 Threads 的 DAU,玩了幾天後發現都是網紅佔據版面。

RealChar 是一個即時 AI 角色/伴侶創建和對話的平台,使用最新的 AI 技術,如 OpenAI GPT3.5/4、Anthropic Claude 2、Chroma、Whisper 等。它具有易於使用、可自定義、實時交流和多平台支持等特點。用戶可以在 Web、終端和移動設備上與 AI 角色進行交流。該項目使用了多種技術,包括 Vanilla JS、WebSockets、Swift、FastAPI、SQLite、Docker 等。要使用此應用程序,您需要獲取 OpenAI API 令牌、Anthropic API 令牌(可選)、Google Cloud API(可選)和 ElevenLabs API 密鑰。詳細的安裝和配置說明可以在 GitHub 頁面上找到[1]。

Citations:

[1] https://github.com/Shaunwei/RealChar#:~:text=RealChar.%20-%20Your%20Realtime%20AI%20C

中國的出口在過去三年中下降最快,全球經濟疲軟。2023年7月13日,中國上個月的出口下降速度自COVID-19大流行爆發三年來最快,全球經濟不景氣對中國政策制定者施加了越來越大的壓力,要求出台新的刺激措施。中國海關局週四公布的數據顯示,6月份出口同比下降12.4%,超過預期,繼5月份下降7.5%之後。進口同比下降6.8%,比預期的4.0%下降幅度更大,也比上個月的4.5%下降幅度更大。中國經濟學家黃子春表示,全球商品需求的下滑將繼續拖累出口,預計出口在年底前將進一步下降。然而,她補充說,“好消息是,外需下降的最壞時期可能已經過去。”中國海關總署發言人呂大亮在北京的一場新聞發布會上將出口表現不佳歸咎於“全球經濟復蘇疲軟、全球貿易和投資放緩以及單邊主義、保護主義和地緣政治上升”。

Citations:

[1] https://www.reuters.com/markets/asia/chinas-june-exports-fall-124-imports-drop-68-2023-07-13/#:~:text=China%27s%20exports%20fall%20most%20in%20t

中國監管機構於周四確定了首個針對生成式人工智能的規則,以加強對這一快速發展技術的監管。中國國家網信辦(CAC)表示,它與幾個其他監管機構共同制定了這一新規定,將於8月15日生效。生成式AI是一個快速發展的技術領域,人工智能服務能夠生成文本或圖像等內容。美國公司OpenAI開發的ChatGPT是最知名的例子,用戶可以向聊天機器人發送提示並獲得回答。然而,ChatGPT的成功引發了一波競爭對手的出現,引起全球監管機構對這一技術潛在風險的擔憂。中國的科技巨頭紛紛加入這一領域,宣布計劃並推出自己的生成式AI服務。但中國通過審查和監管嚴格控制國內互聯網,對AI發展保持密切關注。中國監管機構擔心這些服務可能產生與北京觀點或意識形態相悖的內容。這也是為什麼中國科技公司在推出類似ChatGPT的服務時謹慎行事。與其向公眾廣泛提供的完整服務,中國公司更專注於企業和狹窄用途的技術。例如,阿里巴巴本月推出了一款名為“同一萬象”的人工智能工具,該工具可以根據提示生成圖像,但僅向企業客戶提供測試。然而,CAC的規則為科技巨頭在這一技術方面提供了一個合作框架。中國的生成式AI規則僅適用於向普通公眾提供的生成式AI服務,而不適用於研究機構等開發的服務。CAC表示,生成式AI服務需要獲得營業許可。如果生成式AI服務提供商發現“非法”內容,應采取措施停止生成該內容,改進算法,然後將該材料報告給有關部門。這些服務的提供商必須對其產品進行安全評估,確保用戶信息安全。中國的生成式AI服務還必須遵循“社會主義核心價值觀”。監管機構正努力在使中國成為人工智能領導者與密切關注其發展之間取得平衡。CAC的規則表示,該法規旨在鼓勵生成式AI的創新應用,支持與半導體等相關基礎設施的發展[1]。

Citations:

[1] https://www.cnbc.com/2023/07/13/china-introduces-rules-governing-generative-ai-services-like-chatgpt.html#:~:text=-%20Chinese%20regulators%20on%20Thursd

最接近的技術或許是 ipfs ,但要檔案長時間可索取和高讀取速度還是免不了要花資金錢建立高可用性的gateway ,但至少檔案本身可以做到分散儲存。

這篇文章講的是大型語言模型(LLM)應用程式開發的參考架構。主要的觀點如下:

- LLM是一種強大的新基礎,可以用來建構軟體。但因為它們非常新的,使用方式也和傳統運算資源不同,所以不容易理解如何使用。

- 文中提出了一個LLM應用程式參考架構。它顯示了AI新創公司和大公司常見使用的系統、工具和設計模式。

- 目前比較流行的設計模式是"文脈內學習"。就是使用現成的LLM,通過巧妙的提示和私人"文脈"資料調整它們的行為。

- 參考架構把流程分為三個階段:1) 資料預處理/嵌入 2) 提示構建/檢索 3) 提示執行/推理。

- 提到了每個階段常見使用的工具,包括Databricks、OpenAI API、Pinecone、LangChain等。

- 也討論了一些開發人員面臨的選擇,例如專有vs開源LLM,以及代理框架的發展。

- 總體來說,這份參考架構是LLM應用程式開發早期階段的有用指南。隨著基礎技術的進步,它可能會發生重大改變。

https://a16z.com/2023/06/20/emerging-architectures-for-llm-applications/

根據這篇文章,以下是關於GPT-4的一些關鍵信息:

- GPT-4采用了稀疏模型架構,而不是密集的變換器模型架構。這樣可以減少參數量並提高推論效率。

- GPT-4總參數量大約為1萬億,遠超過GPT-3的1750億參數。

- GPT-4使用了混合精度訓練,可以加速訓練速度並減少訓練成本。

- GPT-4使用了專門的視覺編碼器進行多模態訓練,可以處理圖像輸入。

- GPT-4使用了大量的並行計算技術,如數據並行、模型並行等,以加速訓練。

- GPT-4訓練資料集包含了大量網絡文本、書籍、代碼等內容。

- GPT-4在推理時使用了單芯片和多芯片的並行技術,並進行了針對性優化,以實現快速響應。

- GPT-4代表了語言模型規模和模型架構的重大進步,將推動AI assistants和其他應用的發展。

這篇文章總結了GPT-4在模型架構、訓練和推理方面的創新之處,以及超大模型訓練的工程挑戰和解決方案。GPT-4代表了語言模型發展的新方向。

https://www.semianalysis.com/p/gpt-4-architecture-infrastructure

這是一篇關於如何培養孩子成為未來人才的文章。主要觀點如下:

1. 未來人才需要領域專業知識加上AI素養。不要限制孩子只選擇理工科系,找到自己有熱情的領域最重要。

2. 培養孩子自主學習的能力和意願非常關鍵。學會如何學習才能成為終身學習者。

3. 大人要跟上孩子,一起開始使用和了解AI,從應用層面切入。

4. 練習用AI的角度看待世界,想像AI可以應用在哪些地方。這就是「AI思維」。

5. 我們大人要陪伴孩子,一起為迎接AI新世界做好準備。