采用生成式人工智能系統(tǒng)可能會改變企業(yè)的云架構(gòu)
從數(shù)據(jù)可用性和安全性到大型語言模型和選擇和監(jiān)控,企業(yè)采用生成式人工智能意味著需要重新審視自己的云架構(gòu)。
所以,很多企業(yè)正在重新構(gòu)建云架構(gòu),同時也在開發(fā)生成式人工智能系統(tǒng)。那么,這些企業(yè)需要做些什么改變?新興的最佳實踐是什么?行業(yè)專家表示,在過去的20年里,特別是在過去的兩年,他幫助企業(yè)建立了一些這樣的平臺,以下是他為企業(yè)提出的一些建議:
理解自己的用例
企業(yè)坱要明確定義云架構(gòu)中生成式人工智能的目的和目標(biāo)。如果看到一些錯誤反復(fù)出現(xiàn),那就是他們沒有理解業(yè)務(wù)系統(tǒng)中生成人工智能的含義。企業(yè)需要了解其目標(biāo)是什么,無論是內(nèi)容生成、推薦系統(tǒng)還是其他應(yīng)用程序。
這意味著企業(yè)高管需要就制定的目標(biāo)達(dá)成共識,并且明確如何實現(xiàn)目標(biāo),最重要的是,如何定義成功。這并非只有生成式人工智能才會出現(xiàn)。而這是在每一次遷移和在云中構(gòu)建的新系統(tǒng)獲得成功的一步。
很多企業(yè)在云平臺中開發(fā)的生成式人工智能項目都失敗了,因為他們沒有很好地理解業(yè)務(wù)用例。雖然企業(yè)開發(fā)的產(chǎn)品很酷,但不會給其業(yè)務(wù)帶來任何價值。那么這種方法就會行不通。
數(shù)據(jù)來源和質(zhì)量是關(guān)鍵
識別生成式人工智能模型訓(xùn)練和推理需要有效的數(shù)據(jù)來源,必須是可訪問的、高質(zhì)量的和精心管理的數(shù)據(jù)。企業(yè)還必須確保云計算存儲解決方案的可用性和兼容性。
生成式人工智能系統(tǒng)是高度以數(shù)據(jù)為中心的,可以稱之為數(shù)據(jù)導(dǎo)向系統(tǒng)。數(shù)據(jù)是驅(qū)動生成式人工智能系統(tǒng)產(chǎn)生結(jié)果的燃料。然而,數(shù)據(jù)質(zhì)量仍然是“垃圾進(jìn),垃圾出”。
因此,將數(shù)據(jù)可訪問性作為云架構(gòu)的主要驅(qū)動因素是有幫助的。企業(yè)需要將大多數(shù)相關(guān)數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)訪問,通常將其保留在其存在的位置,而不是將其遷移到單一的物理實體。否則,最終會得到多余的數(shù)據(jù),沒有單一的真相來源??紤]在將數(shù)據(jù)輸入人工智能模型之前,對數(shù)據(jù)進(jìn)行預(yù)處理和清理的高效數(shù)據(jù)管道。這確保了數(shù)據(jù)質(zhì)量和模型性能。
使用生成式人工智能的云架構(gòu)80%獲得了成功。然而,這是最容易被忽視的因素,因為云架構(gòu)師更關(guān)注生成式人工智能系統(tǒng)的處理,而不是為這些系統(tǒng)提供高質(zhì)量的數(shù)據(jù),實際上,數(shù)據(jù)就是一切。
資料保護(hù)及隱私
正如數(shù)據(jù)至關(guān)重要一樣,數(shù)據(jù)的安全性和隱私性也很重要。生成式人工智能處理可以將看似無意義的數(shù)據(jù)轉(zhuǎn)化為可以暴露敏感信息的數(shù)據(jù)。
企業(yè)需要實施穩(wěn)健的數(shù)據(jù)安全措施、加密和訪問控制,以保護(hù)生成人工智能使用的敏感數(shù)據(jù)和生成人工智能可能產(chǎn)生的新數(shù)據(jù)。企業(yè)需要遵守相關(guān)的數(shù)據(jù)隱私法規(guī)。這并不意味著在企業(yè)的架構(gòu)上安裝一些安全系統(tǒng)作為最后保障,而是在每個步驟中都必須將安全性應(yīng)用到系統(tǒng)中。
可擴(kuò)展性和推理資源
企業(yè)需要規(guī)劃可擴(kuò)展的云資源,以適應(yīng)不同的工作負(fù)載和數(shù)據(jù)處理需求。大多數(shù)企業(yè)都考慮自動擴(kuò)展和負(fù)載平衡解決方案。而看到的一個更嚴(yán)重的錯誤是,構(gòu)建可擴(kuò)展性良好但成本非常高的系統(tǒng)。最好是平衡可擴(kuò)展性和成本,這是可以做到的,但需要良好的架構(gòu)和云成本的優(yōu)化實踐。
另外,企業(yè)需要檢查推理資源。人們已經(jīng)注意到,云計算行業(yè)會議上的許多新聞都是圍繞這個主題,而且有充分的理由。選擇合適的帶有GPU或TPU的云實例進(jìn)行模型訓(xùn)練和推理。而優(yōu)化資源配置以實現(xiàn)成本效益。
考慮模型選擇
根據(jù)企業(yè)的具體用例和需求選擇示例生成式人工智能架構(gòu)(通用對抗網(wǎng)絡(luò)和Transformers等)??紤]使用云服務(wù)進(jìn)行模型訓(xùn)練(例如AWSSageMaker等)并找到優(yōu)化的解決方案。這也意味著理解企業(yè)可能有許多連接的模型,這將是常態(tài)。
企業(yè)需要實現(xiàn)一個健壯的模型部署策略,包括版本控制和容器化,以使企業(yè)的云架構(gòu)中的應(yīng)用程序和服務(wù)可以訪問人工智能模型。
監(jiān)控和日志記錄
設(shè)置監(jiān)控和記錄系統(tǒng)來跟蹤人工智能模型的性能、資源利用率和潛在問題是不可選擇的。建立異常警報機(jī)制以及可觀察性系統(tǒng),以處理云中生成的人工智能。
此外,持續(xù)監(jiān)控和優(yōu)化云資源成本,因為生成式人工智能可能是資源密集型的。使用云成本管理工具和實踐,意味著讓云成本優(yōu)化監(jiān)控部署的所有方面——可以最小化運(yùn)營成本,并提高架構(gòu)效率佳。大多數(shù)架構(gòu)都需要調(diào)優(yōu)和持續(xù)改進(jìn)。
其他的考慮因素
需要故障轉(zhuǎn)移和冗余來確保高可用性,災(zāi)難恢復(fù)計劃可以在系統(tǒng)故障時最大限度地減少停機(jī)時間和數(shù)據(jù)丟失。必要時實現(xiàn)冗余。此外,定期審計和評估云基礎(chǔ)設(shè)施中生成式人工智能系統(tǒng)的安全性。處理漏洞并維護(hù)合規(guī)性。
為人工智能的道德使用建立指導(dǎo)方針是個好主意,尤其是在生成式人工智能系統(tǒng)生成內(nèi)容或做出影響用戶的決策時。此外,還要解決偏見和公平問題。目前有關(guān)于人工智能和公平的訴訟,企業(yè)需要確保在做正確的事情。企業(yè)需要持續(xù)評估用戶體驗,以確保人工智能生成的內(nèi)容符合用戶期望并提高參與度。
無論企業(yè)是否使用生成式人工智能系統(tǒng),云架構(gòu)的其他方面幾乎是相同的。關(guān)鍵是要意識到有些事情要重要得多,而且一直改進(jìn)云架構(gòu)。
- 上一篇
云計算如何改變醫(yī)療保健行業(yè)
云計算徹底改變了醫(yī)療保健行業(yè),改善了患者護(hù)理,增強(qiáng)了協(xié)作,實現(xiàn)了個性化醫(yī)療。隨著云技術(shù)的不斷發(fā)展,醫(yī)療保健組織將繼續(xù)從這項變革性技術(shù)中獲益,從而改善患者治療效果,并建立更高效的醫(yī)療保健系統(tǒng)。
- 下一篇
以數(shù)據(jù)為先的方法推動數(shù)字化轉(zhuǎn)型
隨著生成式AI等新興技術(shù)的興起,數(shù)據(jù)優(yōu)先策略將變得越來越必要。因為AI必須擁有高質(zhì)量數(shù)據(jù)才能正常運(yùn)作,不良數(shù)據(jù)可能會危及你的生成式AI項目。通過花時間把數(shù)據(jù)放在首位,為你的組織節(jié)省大量勞動和費(fèi)用。