#物聯網IoT #自動語音辨識ASR #語音助理 #微控制器MCU #AI加速器 #神經決策處理器NDP #神經網路處理器NPU #光達LiDAR #資安
【語音應用,想像無限~~~】
語音辨識正在成為消費者語音助理的重要元素。去年 9 月,亞馬遜 (Amazon) 再 推「可教學 AI」(Teachable AI) 功能,若遇到 Alexa 不理解的語音命令,用戶可直接透過語音向 Alexa 下達指示、即時傳達定義,無需手動設置偏好或改寫 Alexa 邏輯規則。Alexa 能與用戶即時互動式教學,將這些概念推廣到新的上、下文中,並將其與使用者帳戶連結。
交互式教學還可讓 Alexa 學習「間接表述」,可被授予如何將陳述式語句視為變相命令。隨著 Alexa 語音服務 (Amazon Voice Service, AVS) 越來越強大,不少微控制器 (MCU) 供應商群起響應;而語音助理所肩負的任務越見繁複,亦開啟了 AI 加速器、乃至專用處理器的採用風潮。與此同時,雲端服務供應商 (CSP) 正往專用處理器晶片靠攏,以提升 AI 訓練、推論效能。
根據 2020 年 eMarketer 的一項研究,美國有 38.5% 的人口使用語音助理連接智慧手機或其他小工具,且去年因為居家時間增多,成長率達兩位數。此一趨勢促使主要電商門戶網站開發聊天機器人或使用現有基於語音的集成來增加銷售;肺炎疫情爆發以來,制訂對話商務策略以彌補人際交流,已成商業新手段。此外,利用「原生音頻」做交互式廣告及交互式科幻故事講述,正在發生!……
然而,如何針對自然語言搜索優化?如何創建針對答案引擎優化的內容?是兩大挑戰。AI 語音助理正在重塑消費者和企業與數位技術的交互方式;雖然,語音互動應用存在無限可能,也潛藏風險。一項正式研究揭露:即使沒有麥克風,家中掃地機器人等智能家電也可能被駭客竊聽家庭對話!透過遠程訪問光達 (LiDAR) 讀數對 Roborock 進行遠程竊聽攻擊。
延伸閱讀:
《AI 加速器到專用處理器,語音應用更直觀》
http://www.compotechasia.com/a/feature/2021/0205/47106.html
#亞馬遜Amazon #Alexa語音服務AVS #AZ1 #Inferentia處理器 #意法半導體ST #STM32 #微芯科技Microchip #Trust&Go #WFI32E01PC #PIC32MZW1 #Curiosity開發板 #美信 Maxim #MAX78000 #Syntiant #NDP120 #耐能智慧Kneron #KL720 #聯發科技MediaTek #MT8512 #ToneTag #AdTonos #YoursTruly
同時也有10000部Youtube影片,追蹤數超過2,910的網紅コバにゃんチャンネル,也在其Youtube影片中提到,...
「inferentia處理器」的推薦目錄:
- 關於inferentia處理器 在 COMPOTECHAsia電子與電腦 - 陸克文化 Facebook 的最佳解答
- 關於inferentia處理器 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
- 關於inferentia處理器 在 iThome Facebook 的最佳解答
- 關於inferentia處理器 在 コバにゃんチャンネル Youtube 的最佳貼文
- 關於inferentia處理器 在 大象中醫 Youtube 的最佳解答
- 關於inferentia處理器 在 大象中醫 Youtube 的最讚貼文
- 關於inferentia處理器 在 [新聞] 科技大廠強化ASIC開發AI與機器學習晶片- 看板Stock 的評價
- 關於inferentia處理器 在 inferentia處理器的推薦與評價,FACEBOOK、GITHUB ... 的評價
- 關於inferentia處理器 在 inferentia處理器的推薦與評價,FACEBOOK、GITHUB ... 的評價
- 關於inferentia處理器 在 aws-samples/aws-inferentia-huggingface-workshop 的評價
- 關於inferentia處理器 在 Using AWS Inferentia and Trainium in Practice - YouTube 的評價
- 關於inferentia處理器 在 머신러닝 모델 서빙 비용 1/4로 줄이기 的評價
- 關於inferentia處理器 在 inferentia neuron core usage is only 1 when 4 cores are ... 的評價
inferentia處理器 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
亞馬遜Alexa語音助理棄用輝達晶片,將改採自己旗下Inferentia晶片解決方案
科技產業資訊室 (iKnow) - Kyle 發表於 2020年11月16日
電子商務和雲端運算廠商亞馬遜宣佈,為了讓旗下Alexa數位助理能夠發揮其最大影響力,將採用亞馬遜的Inferentia晶片,而不是輝達(NVIDIA)設計的晶片。也就是說,未來Alexa的機器學習大部分工作負載將在亞馬遜的AWS Inferentia晶片上運行。
基本上,這一轉變不會影響到消費者在使用亞馬遜Echo智慧音箱和其他Alexa驅動的裝置。最主要的改變是發生在Alexa服務的後端,其數據被發送到AWS雲端系統進行最終處理之時,會變得更智慧化。
2015年亞馬遜以3.7億美元的價格收購了以色列專業晶片的Annapurna實驗室。歷經三年的努力,亞馬遜終於推出了Inferentia處理器產品線,主要目的是期望提高公司AI工作負載的處理速度,同時可以降低晶片設計過程中採用其他廠商解決方案帶來較高的成本負擔。例如:採用客製化晶片可加快大量機器學習任務的速度,包含:將文章翻譯為語音或辨識影像。
根據亞馬遜的早期測試,新的Inferentia晶片可提供與輝達T4晶片相同的結果,但可將延遲性降低25%,成本降低30%。基本上來說,較低的延遲將使Alexa開發人員可以對傳入的數據進行更先進的分析,而無需用戶等待緩慢運算所帶來額外的成本。
Alexa並不是第一個依靠Inferentia支持的Inf1晶片之AWS實例的亞馬遜產品。先前亞馬遜的臉部辨識工具Rekognition也轉往採用Inf1。此外,AWS客戶還可以自由選擇是否使用Inf1和Inferentia進行自己的專案。例如:Snapchat的母公司Snap,健康保險巨頭Anthem和全球出版社Conde Nast都已經使用基於亞馬遜Inferentia的神經網路實例來強化其AI專案運作。
近年來,亞馬遜,微軟和谷歌之類的雲端運算廠商已經成為運算晶片的最大買家,這也推動了英特爾,輝達等公司在數據中心銷售的蓬勃發展。
但是,這些公司擁有龐大的經費及看中後端數據分析的重要性,這幾年更是透過併購強化在晶片上的設計能力,因為它們知道,進入AI時代,採用傳統的通用晶片已經無法滿足其對於機器學習的需求,因而設計自己的晶片成為了趨勢。
總之,未來無論是輝達或者是英特爾都將面臨大客戶紛紛改採自己AI晶片的趨勢,這一改變可能會影響到未來整體半導體產業的走向與商業模式。
附圖:圖、亞馬遜Alexa語音助理棄用輝達晶片,將改採自己旗下Inferentia晶片解決方案
資料來源:https://iknow.stpi.narl.org.tw/Post/Read.aspx?PostID=17226&fbclid=IwAR1jP5yePqqAmzpMs4ts0X30Kn51NDFMVGREKBb3NAL2UtE5ZgaP-RWFn8Q
inferentia處理器 在 iThome Facebook 的最佳解答
Google等部分公有雲業者,開始研發自家處理器和人工智慧加速晶片,AWS也發表了自行設計的機器學習推理專用晶片Inferentia,並推出使用該晶片的執行個體Inf1,現在AWS的K8s服務EKS開始支援Inf1執行個體,可大幅加速機器學習工作負載
inferentia處理器 在 aws-samples/aws-inferentia-huggingface-workshop 的推薦與評價
This includes CPU and GPU-based instances, but also Inf1 instances; in this case, SageMaker Neo uses the Neuron SDK to compile your model. Setting up the ... ... <看更多>
inferentia處理器 在 Using AWS Inferentia and Trainium in Practice - YouTube 的推薦與評價
![影片讀取中](/images/youtube.png)
... Inferentia, Inferentia's use cases, the Neuron SDK, Trainium, and a demo. This series showcases best practices and troubleshooting tips from ... ... <看更多>
inferentia處理器 在 [新聞] 科技大廠強化ASIC開發AI與機器學習晶片- 看板Stock 的推薦與評價
原文標題:
科技大廠強化ASIC開發AI與機器學習晶片
(請勿刪減原文標題)
原文連結:
https://bit.ly/3z0JfcF
(請善用縮網址工具)
發布時間:
2021年9月13日
(請以原文網頁/報紙之發布時間為準)
原文內容:
臉書學習谷歌、亞馬遜和微軟,決定加入自主晶片設計的行列。根據消息指出,臉書除了
正在開發一種支持機器學習的晶片,以向用戶推薦內容之外,它還在開發另一款晶片以提
高視訊轉碼品質。這一團隊成為超過100人,期望利用AI與機器學習技術強化晶片能力。
臉書開發AI與機器學習晶片及視訊轉碼晶片
其實,早在2018年,臉書就已經聘請了谷歌硬體技術工程團隊和消費性晶片團隊的創始人
Shahriar Rabii,並任命他成為新的晶片主管。
主要目的,就是呼應其他大型高科技企業正在採取的類似戰略,利用他們的規模市場優勢
,以及對自身工作負載的理解,能夠開發出更高效率的客製化晶片,以減少對英特爾、超
微、高通、博通和輝達等晶片公司的依賴。
在制定這一戰略之前,臉書曾經想透過聘請工程師從事晶片工作,但主要是專注於與外部
半導體公司一起合作且修改現有設計,目標是設計出半客製化ASIC,而不是單獨開發晶片
。但是臉書逐步了解,市場對於推理和轉碼等需求成為其成長最快的服務之一,僅僅依賴
通用處理器根本無法滿足其數據中心需求。
谷歌開發TPU、Titan及Argos視訊轉碼晶片
在2021年早些時候,谷歌透露,它正開發了一種客製化的Argos視訊轉碼晶片,與之前的
傳統伺服器所採用的相比,這一晶片的運算效率提高了20至33倍之多。 谷歌還開發了自
己的TPU之人工智慧處理器家族、Titan安全晶片系列,並在2021年聘請了英特爾的Uri
Frank來建構系統單晶片解決方案。如今也將在兩年後,推出Chromebook與平板電腦的晶
片。
亞馬遜開發Trainium及和推理晶片Inferentia
與此同時,亞馬遜網路服務也擁有自己的Arm處理器系列Graviton,以及人工智慧訓練晶
片Trainium以及和推理晶片Inferentia。
微軟也在開發屬於自己的Arm晶片,以用於伺服器。
研究機構Forrester認為,在COVID-19大流行期間,全球持續性的晶片短缺是驅動大型科
技公司加速開發他們自己設計與製造晶片的催化劑。因為許多大型科技發現,如果受限於
其他晶片製造商的推出新晶片的時間表,那麼在這一個極需要創新步伐的時代中,將會受
到限制。
唯有加入客製化晶片的布局,從長期戰略上面來看,除了能夠完全掌握自己發展的命運之
外,還能省去許多成本。這是趨勢,也是英特爾想強化晶圓代工布局的關鍵之一。
心得/評論: ※必需填寫滿20字
美國科技巨頭接連宣布自行設計AI晶片,不希望公司創新開發的腳步被硬體供應商拖累,
同時節省成本。
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Stock/M.1631505353.A.804.html
... <看更多>