欧美在线观看天堂一区二区三区_99re66热这里只有精品4_国产午夜亚洲精品不卡_欧美国产视频在线观看

首頁 > 活動線報 > 每日福利 > 微軟秘密開發首個千億大模型,竟由 OpenAI 對手操刀!

微軟秘密開發首個千億大模型,竟由 OpenAI 對手操刀!

發布時間:2024-05-13 22:49:20

Phi-3 Mini 模型發布不到兩周,微軟又傳出了自研千億參數級別模型的消息。

 

自向 OpenAI 投資超 100 億美元以換取重用其人工智能模型的權利以來,微軟首次開始在內部自研全新且足夠大的人工智能模型,或能與來自谷歌、Anthropic 和 OpenAI 的最先進模型相競爭。

 

這個新模型在內部被稱為 MAI-1,由前谷歌人工智能領導者、 AI 初創公司 Inflection 的 CEO 穆斯塔法·蘇萊曼 (Mustafa Suleyman) 負責監督。知情人士稱,MAI-1 的參數規模將遠遠大于 Phi-3 等任何微軟之前訓練過的較小的開源模型。但這意味著,它將需要更多的計算能力和訓練數據,因此成本會更高。

 

同時,微軟此舉表明,其現在正在人工智能領域追求“雙重軌道”,目標是開發既可以廉價地構建到應用程序中又可以在移動設備上運行的“小語言模型”,以及更大、最先進的人工智能模型。蘋果目前似乎也正在探索類似的路徑,此前同樣也發布了八款針對設備使用的小型 AI 語言模型。

 

5000 億參數級別

最早或于本月亮相

 

據介紹,MAI-1 將有大約 5000 億個參數或設置,可以調整這些參數或設置以確定模型在訓練期間學習的內容。相比之下,OpenAI 的 GPT-4 有超過 1 萬億個參數,而 Meta 和 Mistral 等公司發布的小型開源模型有 700 億個參數。

 

這表明,MAI-1 可以定位為 GPT-3 和 GPT-4 之間級別的一種模型,該模型將能夠提供遠遠高于 Llama 和 Mistral 等開源模型、但或低于 OpenAI 旗艦版 LLM 的響應精度。

 

為了訓練該模型,微軟一直在分配大量配備 Nvidia GPU 的服務器,并編譯各種來源的訓練數據,包括 OpenAI 的 GPT-4 生成的文本和公共互聯網數據,還可能會使用來自 Inflection 的訓練數據和某些其他資產來支持 MAI-1。

 

目前,MAI-1 的確切用途尚未確定(即使在微軟內部),其最理想的用途將取決于其性能。如果該模型確實具有 5000 億個參數,那么在消費類設備上運行就太復雜了。這意味著,微軟很可能會在其數據中心部署 MAI-1,在這里大語言模型可以集成到 Bing 和 Azure 等服務中。

 

微軟可能最早在本月晚些時候的 Build 開發者大會上,根據未來幾周取得的進展亮相 MAI-1。

 

MAI-1 的研發是基于 Inflection?

 

“盡管 MAI-1 是一種全新的、與 Inflection 之前發布的 Pi 分開的大型語言模型 ,但其可能建立在前 Inflection 員工帶來的技術之上。”據兩名了解情況的微軟員工稱。

 

從 OpenAI 官網的一份聲明來看,Inflection 曾是 OpenAI 的競爭對手,但它現在把業務重點從聊天機器人 Pi 轉向了向企業銷售人工智能軟件。曾擔任過各種技術職務的肖恩·懷特 (Sean White) 已加入該公司,擔任新任 CEO。

 

今年 3 月,微軟以 6.5 億美元收購了這家初創公司的大部分員工和知識產權,并聘請蘇萊曼來領導一個新的消費者人工智能部門。該部門將面向消費者的產品(包括微軟的 Copilot、Bing、Edge 和 GenAI)歸入一個名為 Microsoft AI 的團隊,而蘇萊曼直接向 Microsoft 首席執行官薩蒂亞·納德拉(Satya Nadella)匯報工作。

 

新部門標志著 Microsoft 的重大組織轉變,其網絡服務總裁 Mikhail Parakhin 將與他的整個團隊一起向蘇萊曼匯報工作。這也是微軟利用生成人工智能熱潮的最新舉措之一。

 

納德拉在一份聲明中說:“我認識穆斯塔法已經好幾年了,我非常欽佩他作為 DeepMind 和 Inflection 的創始人,以及一個有遠見的產品制造商和追求大膽使命的開拓團隊建設者。”

 

DeepMind 于 2010 年在英國成立,2014 年被谷歌以 5 億美元收購,蘇萊曼是該公司的三位創始人之一。在 DeepMind 就職時,蘇萊曼曾因員工抱怨其咄咄逼人又過于激進的管理風格引發爭議,于 2019 年被迫離開 DeepMind。之后談到當時的員工投訴時,蘇萊曼回應說:“我真的搞砸了。我要求很高,而且相當無情。我設定了一些相當不合理的期望,導致一些人的工作環境非常惡劣。我對此感到非常遺憾。”

 

幾個月后,他轉到谷歌總部,負責領導人工智能產品管理和政策。2022 年,他從谷歌離職,加入了硅谷風險投資公司 Greylock,并于當年晚些時候推出了 Inflection。

 

據悉,微軟還將聘用 Inflection 的大部分員工,Inflection 的聯合創始人兼首席科學家 Karén Simonyan 也將擔任其 AI 團隊的首席科學家。雖然微軟沒有明確調動的員工人數,但表示其中包括人工智能工程師、研究人員和大型語言模型構建者,他們設計并共同完成了“過去五年中為推動人工智能發展做出的許多最重要貢獻”。

 

Inflection 的第三位聯合創始人、LinkedIn 創始人兼執行主席 Reid Hoffman 將繼續留在 Inflection 的董事會。

 

去年 6 月,Inflection 還完成 13 億美元的一輪融資,由微軟、英偉達和三位億萬富翁(Reid Hoffman、Bill Gates 和 Eric Schmidt)牽頭投資。當時,微軟首席技術官 Kevin Scott 還表示,“像 Inflection 這樣雄心勃勃的人工智能公司,正在憑借易于使用并展示人工智能多種可能性的變革性產品引領行業發展。”

每日福利更多>>

梅賽德斯-AMG GT XX概念車首發 搭載F1驅動技術 法系純電新旗艦,首次體驗DS N°8,這設計你能接受嗎? 瑪莎拉蒂GranTurismo:收放自如的生活方式 本田日產又搞一塊兒了,這回是真的? AMG GT XX概念車炸場!1360馬力+5分鐘充400公里 10萬出頭個性SUV推薦,方程豹鈦3還是iCAR V23?你屬于哪類人? 科尼賽克發布全新Sadair\'s Spear,推重比超越One:1的賽道超跑 年輕人第一臺性能車新解:當法拉利 Roma Spider 遇上意式浪漫 10.98萬元起,最高續航545公里,比亞迪海豹06EV北京區域上市 鴻蒙智行周銷量5連破萬,穩坐新勢力榜首,問界扛大旗,享界起飛 實測夠好,經濟實用還能國補:這份手機電腦平板好物清單請收好! 索尼回應Switch 2競爭:PS5級性能是大屏幕優質體驗的必要條件 紅米首臺小平板來了!王騰:全面超越iPad mini 真我開始全力出擊,驍龍8至尊+6500mAh+120W,618期間跌至2464元 尹同躍、李書福視頻連線,金句頻出 細節調整 新款歐拉好貓GT官圖發布 為家庭幸福選擇!深藍S09和領克900,誰更值得? 深藍S09重慶車展交卷:訂單火爆背后的“家庭平權”革命 標致e-208GTi上市時間確定!定位兩廂電動小鋼炮 終結第三排“歧視”!深藍S09打響家人出行平權戰 寶馬和奔馳的電車跑得比EPA預估里程更遠 5月新能源車銷量TOP20:吉利14萬輛再創新高,特斯拉、埃安同比大降 四驅穿越版上市售30.98萬,福特探險者家族全系四驅,覆蓋5/6/7座 長安福特探險者四驅穿越版上市,車長5063mm,5座,搭載2.3T動力 吉利銀河A7 EM-i,饋電油耗2L級,續航2100km+ 一眼分辨雷達金剛EM-P與地平線EM-P,這些細節別錯過! 比亞迪海豹06EV于重慶車展上市!售價區間為10.98-12.98萬元 新一代大眾速騰實車曝光,全新設計風格,車身加長21mm,1.5T動力 大改款Q3將于夏季量產,匈牙利工廠完成第 100 萬輛生產 2025年5月新勢力銷量排名!
主站蜘蛛池模板: 庐江县| 恩平市| 陇西县| 徐闻县| 六安市| 化德县| 山阴县| 共和县| 深水埗区| 齐齐哈尔市| 于田县| 安乡县| 上杭县| 宜兰县| 舒城县| 新丰县| 麦盖提县| 南昌市| 株洲县| 临泽县| 东乡| 克东县| 界首市| 县级市| 惠水县| 东乌| 思茅市| 盐池县| 于田县| 德昌县| 天祝| 绥滨县| 宁城县| 印江| 鄄城县| 清水县| 漠河县| 贡觉县| 新蔡县| 偏关县| 马尔康县|