具備AI功能的銀河麒麟桌面操作系統(tǒng)已正式上市。人工智能的快速發(fā)展,不同用戶對(duì)AI的應(yīng)用需求差異日益分化,如何讓AI成為高效、靈活、安全的生產(chǎn)力成為新課題。銀河麒麟桌面操作系統(tǒng)V10 SP1 2503基于自主創(chuàng)新研發(fā)的“AI子系統(tǒng)”,憑借其分層架構(gòu)設(shè)計(jì)和全面覆蓋的AI能力,保護(hù)用戶個(gè)人隱私及數(shù)據(jù)安全,助力用戶智能化辦公效率加速升級(jí)。
三域融合,應(yīng)用模型硬件協(xié)同
縱觀操作系統(tǒng)演進(jìn)歷史,它就像一條不斷消化新技術(shù)的“貪吃蛇”。AI時(shí)代,推理引擎和人機(jī)交互模式的發(fā)展正在重新定義操作系統(tǒng)。聚焦市場(chǎng)需求和技術(shù)前沿,麒麟軟件持續(xù)投入,致力于將應(yīng)用創(chuàng)新成果融入到操作系統(tǒng)中,打通AI最后一公里。而面對(duì)國(guó)內(nèi)xPU廠商林立的現(xiàn)狀,與上下游的軟硬件企業(yè)協(xié)同創(chuàng)新,顯然更符合當(dāng)前產(chǎn)業(yè)發(fā)展需求。
面對(duì)異構(gòu)計(jì)算、大模型輕量化部署等全新領(lǐng)域,麒麟軟件創(chuàng)造了獨(dú)特的攻關(guān)模式:**以操作系統(tǒng)架構(gòu)為基座,構(gòu)建AI框架適配層,打通硬件加速通道,創(chuàng)新性地開發(fā)出“硬件、模型、應(yīng)用軟件”靈活解耦的操作系統(tǒng)架構(gòu)。**基于此思路,銀河麒麟操作系統(tǒng)AI子系統(tǒng)就此形成,實(shí)現(xiàn)大模型與操作系統(tǒng)深度融合,讓國(guó)產(chǎn)操作系統(tǒng)具備了端側(cè)推理能力。
三重牽引,Al子系統(tǒng)層層賦能
“分層架構(gòu)、靈活高效”是AI子系統(tǒng)的最大特色。每一層都經(jīng)過精心設(shè)計(jì),確保系統(tǒng)的高效運(yùn)行、易于維護(hù),還能根據(jù)業(yè)務(wù)需求靈活調(diào)整和擴(kuò)展。其中,AI SDK、AI Runtime和推理層三重牽引,保障應(yīng)用、模型、硬件三層實(shí)現(xiàn)有機(jī)融合。
AI子系統(tǒng)整體框架
AISDK:工具百寶箱
AI子系統(tǒng) AI SDK 通過標(biāo)準(zhǔn)化接口屏蔽底層復(fù)雜性,降低AI能力集成復(fù)雜度。它提供154個(gè)標(biāo)準(zhǔn)化接口,涵蓋文本生成、圖像生成、語音識(shí)別與合成、OCR識(shí)別等6大類功能,**對(duì)于開發(fā)者而言,就像一個(gè)工具百寶箱,能夠輕松將自己應(yīng)用對(duì)接到系統(tǒng)集成的模型能力中,大大縮短了對(duì)接流程和時(shí)間成本。**此外,AI SDK也可調(diào)用企業(yè)用戶自定義部署的大模型能力,助力用戶進(jìn)行高效、個(gè)性化AI設(shè)置。
Runtime: Al調(diào)度員
運(yùn)行時(shí)服務(wù)層通過接口層與實(shí)現(xiàn)層分離,集中管理AI任務(wù),優(yōu)化資源調(diào)度和功耗,確保系統(tǒng)的高效運(yùn)行。其七大模塊共同協(xié)作,提供從基礎(chǔ)AI能力到場(chǎng)景化服務(wù)的全面支持。支持云端與端側(cè)模型服務(wù),對(duì)于用戶而言,可根據(jù)不同網(wǎng)絡(luò)環(huán)境和硬件配置,選擇本地、云端及自定義三種模式進(jìn)行模型配置。本地模式適合重?cái)?shù)據(jù)安全場(chǎng)景,用戶可不上網(wǎng)也能用AI,避免個(gè)人數(shù)據(jù)上傳云端;云端模式便捷高效、可隨心選用市面上主流的大模型,適合有穩(wěn)定網(wǎng)絡(luò)環(huán)境、需要高效響應(yīng)的用戶;自定義模式賦予用戶自主性,滿足需針對(duì)特別業(yè)務(wù)場(chǎng)景進(jìn)行配置、對(duì)數(shù)據(jù)安全和算力性能要求比較高的企業(yè)用戶 。
推理層:算力“管理大師”
在推理層,AI子系統(tǒng)通過異構(gòu)調(diào)度CPU、GPU、NPU資源達(dá)到能效平衡,提高模型的并發(fā)推理能力。隨著系統(tǒng)操控、RAG、文字生成等子功能逐步成熟,逐步提升模型精準(zhǔn)適配度、提升推理效率。
銀河麒麟桌面操作系統(tǒng)AI子系統(tǒng)將持續(xù)優(yōu)化,為企業(yè)和開發(fā)者提供更高效、更靈活的AI解決方案,成為用戶智能化轉(zhuǎn)型的得力助手。麒麟軟件致力打造世界級(jí)操作系統(tǒng)中國(guó)品牌,研發(fā)具有AI能力的國(guó)產(chǎn)操作系統(tǒng),是時(shí)代交賦予的責(zé)任和任務(wù)。我們將持續(xù)投入研發(fā),加快AI生態(tài)建設(shè),書寫智能時(shí)代屬于國(guó)產(chǎn)操作系統(tǒng)的全新未來,與伙伴共赴充滿AI資源的“新大陸”。