苹果透露,两款支持「Apple Intelligence」的AI模型,都是以Google设计的客制化「张量处理单元」在云端进行训练。
据报导,苹果周一(7月29日)释出的技术文件显示,苹果基础模型及AFM服务器都是以「v4和v5p云端TPU丛集」、运用苹果软件进行初步训练。
这代表苹果向一家云商租下服务器来执行运算。 苹果在文件中表示,「该系统让我们得以有效扩大训练AFM模型(当中包括AFM终端装置、AFM服务器),以及规模更大的模型。」
苹果文件中显示,AFM终端装置是以2048颗TPU v5p组成的单一切片进行训练。 v5p是最先进的TPU,首度于2023年12月发布。 AFM服务器则是以8192颗TPU v4芯片组成的八个切片训练。
根据Google官网,旗下最先进TPU若提前三年预定,则每使用一小时的成本不到2美元。 Google是在2015年首次发布TPU、供内部作业使用,2017年才对外推出。 TPU如今是最成熟的AI客制化芯片之一。
不过,Google 仍是英伟达首要客户之一,不但同时运用英伟达GPU及自家TPU训练AI系统,也在自家云端平台贩售使用英伟达科技的服务。
苹果先前曾说,AI推论任务有部分会在使用苹果自家芯片的自有数据中心执行。
根据之前的媒体报导,参与苹果服务器项目「Project ACDC (即Apple Chips in Data Center、苹果资料中心芯片)」的人士强调,自家服务器处理器的内部元件仍可捍卫用户隐私。 苹果处理器的「安全隔离区」技术,可避免数据外泄。 目前苹果计划以自家的数据中心执行云端功能,但最终仍会仰赖外部设施,如同iCloud等服务。
Meta首席执行官扎克伯格最近接受彭博社记者Emily Chang主持的podcast节目访问时透露,虽然业界也许对AI基础建设投资过度,但假使进度落后,则未来10~15年将无法在这个最重要的科技市场占有一席之地。