月之暗面：3 月 20 日以來 Kimi 流量增加趨勢遠超預期，導致 SaaS 客户體驗異常

華爾街見聞
2024.03.21 09:33
月之暗面發佈情況説明：從 2024.3.20 9:30:00 開始，我們觀測到 Kimi 的系統流量持續異常增高，流量增加的趨勢遠超我們對資源的預期規劃。這導致了從 2024.3.20 10:00:00 開始，有較多的 SaaS 客户持續的體驗到 429:engine is overloaded 的異常問題，對此我們深表抱歉。 做為一家以技術為導向的公司，我們非常理解一個 API 的穩定性是能否投入實際生產的最關鍵因素之一，已經有多項應急措施正在實施，包括不限於：從 3.20 觀測到流量異常增高後，已經進行了 5 次擴容工作。推理資源會持續配合流量進行擴容，以儘量承載持續增長的用户量；設計了一套更有效的 SaaS 流量優先級策略，以保障付費用户的調用穩定，預計 3.25 之前完成並上線。
Source: 華爾街見聞 The copyright of this article belongs to the original author/organization.
The views expressed herein are solely those of the author and do not reflect the stance of the platform. The content is intended for investment reference purposes only and shall not be considered as investment advice. Please contact us if you have any questions or suggestions regarding the content services provided by the platform.