DeepSpeed (日本語アカウント) @DeepSpeedAI_JP
深層学習を最適化するライブラリ DeepSpeed の情報を日本語で発信する公式アカウントです。 大規模な分散学習や推論を高速かつ簡単に実施できます。 このアカウントでは、DeepSpeedの新機能や論文などの最新情報を紹介していきます。英語Twitterアカウント: @DeepSpeedAI deepspeed.ai Joined March 2023-
Tweets132
-
Followers1K
-
Following42
-
Likes120
DeepSpeed の Universal Checkpointing に関する論文が、ソフトウェアシステム分野のトップカンファレンスである ATCで発表されました。
DeepSpeed の Universal Checkpointing に関する論文が、ソフトウェアシステム分野のトップカンファレンスである ATCで発表されました。
📢 Yesterday at USENIX ATC 2025, Xinyu Lian from UIUC SSAIL Lab presented our paper on Universal Checkpointing (UCP). UCP is a new distributed checkpointing system designed for today's large-scale DNN training, where models often use complex forms of parallelism, including data,…
PyTorch Day France marked the launch of a global PyTorch Day series—and the announcement of a major milestone: PyTorch Foundation is now an umbrella foundation. First new projects: @vllm_project + @DeepSpeedAI. Next Stop: PyTorch Day China, June 7 🇨🇳 hubs.la/Q03lJvHh0…
DeepSpeedプロジェクトのPyTorch Foundationへの参加が発表されました。 幅広いステークホルダーとのオープンな連携を通じて、コミュニティに一層貢献していきます。 公式アナウンス: pytorch.org/blog/pytorch-f… pytorch.org/projects/deeps…
DeepSpeedプロジェクトのPyTorch Foundationへの参加が発表されました。 幅広いステークホルダーとのオープンな連携を通じて、コミュニティに一層貢献していきます。 公式アナウンス: pytorch.org/blog/pytorch-f… pytorch.org/projects/deeps…
PyTorch Foundation has expanded into an umbrella foundation. @vllm_project and @DeepSpeedAI have been accepted as hosted projects, advancing community-driven AI across the full lifecycle. Supporting quotes provided by the following members: @AMD, @Arm, @AWS, @Google, @Huawei,…
This is pretty neat. They insert into torch.compile and insert some profile-guided optimizations as well as a bunch of other specific optimizations like offloading. Since torch.compile is all in Python all their compiler passes are fairly accessible too! github.com/deepspeedai/De…
This is pretty neat. They insert into torch.compile and insert some profile-guided optimizations as well as a bunch of other specific optimizations like offloading. Since torch.compile is all in Python all their compiler passes are fairly accessible too! github.com/deepspeedai/De…
DeepSpeedの新機能 "DeepCompile" をリリースしました！ ✅プロファイルに基づく並列処理の自動最適化 ✅ ZeROやオフロードをコンパイラの最適化パスとして実現 ✅ ZeRO1 / ZeRO3 / オフロードの 1.2〜7倍の高速化を達成 詳細は下記をご覧ください ブログ(英語): tinyurl.com/8cys28xk
DeepSpeedの新機能 "DeepCompile" をリリースしました！ ✅プロファイルに基づく並列処理の自動最適化 ✅ ZeROやオフロードをコンパイラの最適化パスとして実現 ✅ ZeRO1 / ZeRO3 / オフロードの 1.2〜7倍の高速化を達成 詳細は下記をご覧ください ブログ(英語): tinyurl.com/8cys28xk https://t.co/vi8xHG6Koj
ありがとうございます、ぜひご活用ください！
HuggingFaceモデルに自動でテンソル並列 (TP) を適用する機能がリリースされました！ - HuggingFaceモデルハブの大規模モデルをより大きいバッチサイズ・系列長で訓練可能に - Llama3のfine-tuningを4倍高速化 - ユーザによるコード変更が不要！ ブログ(英語): tinyurl.com/5n8nfs2w
HuggingFaceモデルに自動でテンソル並列 (TP) を適用する機能がリリースされました！ - HuggingFaceモデルハブの大規模モデルをより大きいバッチサイズ・系列長で訓練可能に - Llama3のfine-tuningを4倍高速化 - ユーザによるコード変更が不要！ ブログ(英語): tinyurl.com/5n8nfs2w
🚀 Excited to introduce DeepSpeed, a deep learning optimization library from @Microsoft! It simplifies distributed training and inference, making AI scaling more efficient and cost-effective. Learn more 👉 hubs.la/Q0351DJC0 #DeepSpeed #AI #OpenSource #LFAIData
Microsoft Research congratulates Yasuyuki Matsushita on being named a 2025 IEEE Fellow for his outstanding contributions to photometric 3D modeling and computational photography. msft.it/6018oINMG
限られたGPUリソースで、非常に長い系列を学習するための新機能 Ulysses-Offload をリリースしました！ - A100-80GB 4台だけで LLaMA3-8B を系列長2Mトークンで訓練可能 - 55%を超えるMFUを達成 ブログ: shorturl.at/Spx6Y チュートリアル: shorturl.at/bAWu5
限られたGPUリソースで、非常に長い系列を学習するための新機能 Ulysses-Offload をリリースしました！ - A100-80GB 4台だけで LLaMA3-8B を系列長2Mトークンで訓練可能 - 55%を超えるMFUを達成 ブログ: shorturl.at/Spx6Y チュートリアル: shorturl.at/bAWu5
【 Microsoft Research Asia - Tokyo を設立】 アジア太平洋地域における人工知能研究とイノベーションの推進を強化するため、東京に新たな研究拠点である「Microsoft Research Asia-Tokyo（マイクロソフト リサーチ アジア東京）」を設立したことを発表します。 msft.it/6018WqGNw
Microsoftから、新しくMoEのモデルが公開されました。少ないアクティブパラメータで、高い性能を達成しています。 省メモリかつ高速な分散学習のために、もちろんDeepSpeedが使われています！
Microsoftから、新しくMoEのモデルが公開されました。少ないアクティブパラメータで、高い性能を達成しています。 省メモリかつ高速な分散学習のために、もちろんDeepSpeedが使われています！
Microsoft releases GRIN😁 MoE GRadient-INformed MoE demo: huggingface.co/spaces/GRIN-Mo… model: huggingface.co/microsoft/GRIN… github: github.com/microsoft/GRIN… With only 6.6B activate parameters, GRIN MoE achieves exceptionally good performance across a diverse set of tasks, particularly in…
One more JD: we are hiring at Tokyo Lab! jobs.careers.microsoft.com/global/en/job/…
Keep hiring for our new Tokyo lab... jobs.careers.microsoft.com/global/en/job/…
MS Phi-3.5 のリリースブログ Phi-3.5-mini、Phi-3.5-vision、Phi-3.5-MoE の 3 つ。多言語対応、128k Context Length、複数フレーム理解、16 Experts / 6.6B Active Parameters。安全性にも焦点。Azure AI Studio 経由で Guidance を用いて出力制御も。多言語、知識系タスクには RAG の使用を推奨。
MS Phi-3.5 のリリースブログ Phi-3.5-mini、Phi-3.5-vision、Phi-3.5-MoE の 3 つ。多言語対応、128k Context Length、複数フレーム理解、16 Experts / 6.6B Active Parameters。安全性にも焦点。Azure AI Studio 経由で Guidance を用いて出力制御も。多言語、知識系タスクには RAG の使用を推奨。
Phi-3.5について、公式のリリースブログが掲載されました！ techcommunity.microsoft.com/t5/ai-azure-ai…
Phi-3.5について、公式のリリースブログが掲載されました！ techcommunity.microsoft.com/t5/ai-azure-ai…
びーぐる @beagle_dog_inu
328 Followers 463 Following AI界の片隅に生息しているオールラウンダー型VibeエンジニアでVibeマネージャー Vibeいぬ🐶 Vibe個人開発者 Vibeフリーランス → VibeLLM無職？ LLM, Spec駆動開発 セキュリティ(ex-支援士) AtCoder(青) 札幌生まれ埼玉県民で家族は妻・長女・次女
Nuts @Nuts99618279
454 Followers 467 Following 音声合成のR&D @ParakeetIncCom / 東北大 (工学、3.5年早期卒業) → 東北大院博士後期課程 (通信工学、休学中) / interested in speech synthesis
Harriet_Y27 @Harriet_Y27
1 Followers 50 Following
Mirage @hNUKFCo5pU34983
39 Followers 223 Following Mirage。AIに興味がある高校教員。AIについて勉強中です。AIに関する最新の研究成果やAIニュースを発信します。一緒にAIを学びましょう！ #AI初心者 #AI勉強中 #AIコミュニティ
Wataru Ikeda @wataruuuuu_i
63 Followers 293 Following 1st year master's student at Tohoku University | @tohoku_nlp
Rajat Mhetre @mhetrerajat
79 Followers 568 Following Occasional Backpacker Applied ML / Computer Vision @ Amazon
عبد العزيز �... @aq_lp0
700 Followers 8K Following نحاول أن نعيش اللحظة، نضحك، نتسلى، نؤجل مواجهة الألم أو الانهيار، مع أننا في داخلنا نعرف أن هناك ثقلًا أو مصيرًا محتومًا ينتظرنا
ちびすけ @tiisanapeople
303 Followers 1K Following ゆっくり音声使って５年くらい動画投稿しています Minecraftとかバトルフィールドとかドキドキ文芸部とか少女終末旅行とかすき書き切れない YouTube→https://t.co/hMEmydyj8c VRChat→ChibiBouningen Misskey→@[email protected]
黒猫人形 @withkurodoll
31 Followers 154 Following With黒猫人形の幹事。堀江由衣さんと田村ゆかりさんイベントは大体参加。AKB48グループ推し。小嶋真子、岡田彩花、岩立沙穂、松本梨奈、島崎遥香、柏木由紀推し。
go_all_in_to_phd @master_in_2027
14 Followers 562 Following
わぽる @otafuku_wata_ai
74 Followers 350 Following 機械系エンジニアが機械学習をゼロから学びます。目指せAIで定時退社！！！ #もうすぐ社会人5年目 G検定2020#3合格者/21年8月にE検定に挑戦/Pythonゼロからのスタート/工学部機械科/道産子
みならい @Minarai01
251 Followers 7K Following
しんちろ @sinchir0
2K Followers 1K Following 一つのことをやりきる / Kaggle Notebooks Master, Competitions Expert / LLM・LVLMに興味があります / SaaS企業にてNLP系の研究開発職をしています / 著書: Polarsとpandasで学ぶ データ処理アイデアレシピ55
shisa.ai @shisa_ai
112 Followers 47 Following
チョコ @ygrVKgntT5itgN0
674 Followers 5K Following
NONAKA Takaaki #BizOp... @takaaki336
69 Followers 670 Following 八ヶ岳の麓で温泉につかって育つ。趣味はバスケ🏀サッカー⚽登山🏔料理🔪読書📖 デッサン✎ピアノ🎹スタートアップでBizOps。人生の主題は「可動性の向上」と「テクノロジーとの調和」。故郷で和モダンの平屋に住んでゆったり過ごすのが理想の生活。狐が好きです。
虎猫 @gnu_choran
34 Followers 219 Following
ハロα @haroalpha888
215 Followers 461 Following 30代♂ #prfm #wbs //Perfume/CAPSULE/日向坂46/松田聖子/A-bee/HIEROPHANT GREEN/植松伸夫/菅野よう子/澤野弘之/Ravel/Scriabin/Chopin//
千代田区 @chiyodaku_0526
117 Followers 294 Following 【私が君を愛しているとして、君がそれとなんの関係がある？】 robotech/珈琲同好会 公開垢 @pgchiyo
Aru Maekawa @arumaekawa
255 Followers 378 Following PhD student @sciencetokyo_en | ML engineer @kotoba_tech
286 @no_286
20 Followers 173 Following Machine Learning/Mathematical Optimization/Quantum Computing/etc.
うに @mRTyRwaRfr71394
5 Followers 103 Following
Yossy Maki @yomaki_
19 Followers 46 Following AI/ML Specialist #GoogleCloud 所属 | AI/ML | Vertex AI | MLOps | Federated Learning | 発言は個人の意見であり、所属組織とは無関係です。
ざわざわ @luckypanchh0123
93 Followers 142 Following こーせんせー ▶︎ eeic2024へんにゅー B4 Mechanistic Interpretability
Daisuke.N @Varanasihermit
4 Followers 182 Following 関西在住の、電機メーカーのエンジニア、ときどき旅人です。興味の範囲は、情報通信、経済学全般、海外旅行、写真です。海外には、アジア中心に１9カ国に行ったことがあります。松尾研GCI2023Summer, LLM2024Fall。E資格2024#1。
Kohei Saito @K0HEISAIT03110
322 Followers 478 Following Cloud Solution Architect & Evangelist @Microsoft / Software Engineer at George&Shaun / CEO at Joy with Paws LLC / All opinions are my own.
Vortez Wohl @vortezwohl
47 Followers 2K Following Musique producer🎛 Computer science📚 AI researcher🤖
NEO@20代データエ... @datadriven8632
242 Followers 1K Following 仕事術やIT関係の有益な情報をばらまく犬好き貝社員アカウント🐚｜早稲田卒→データサイエンティスト→データエンジニア🐊｜"ITで世界を変える"を実践中☀️｜データサイエンス、実践してきたキャリア戦略、仕事術、書評などを呟きます（たまに恋愛）🐕|フォローして損はさせません🐌
Yuko＠ノマドワ�... @piELzxHCqntqxfN
60 Followers 705 Following びんぼう暮らしから成り上がり 8社経営･資産70億 今は稼げる情報を教えたり、10万円をプレゼントしたりしてます・今ならLINE登録で10万円配布中 まずはフォローしてください！こちらで当選➡ https://t.co/CpnWqvOv2k
ホーさん @hoosan16
665 Followers 645 Following #Dfinity JP でInternet Computer（#IC）の勉強や普及活動（情報交換・勉強会・翻訳）をしています
tell14 @tell14
0 Followers 16 Following
ようた @CBiFGunUtihLCPh
5 Followers 113 Following
vista @syuntetsu
311 Followers 1K Following
すず @tnk_0404
193 Followers 520 Following
Yu Yamaguchi | チュ... @ymg_aq
7K Followers 748 Following チューリング株式会社のCTO & Director of AI。自動運転AIの研究と開発をしています。| 🚗Turing CTO ⇐ ☗HEROZ 執行役員 ⇐ 🔬産総研 ⇐ 🎓東京大学 | 📺NHK杯将棋AI&囲碁AI | Kaggle Master 🥇🥇🥈🥈 | 🦑XP2450
YOSHIFUJI Naoki @LWisteria
554 Followers 57 Following ソフトウェア高速化技術者です。最近はLLMの高速化をしています。発言内容はもちろん個人的なもので所属機関の公式見解ではありません。
Tanahashi @tanahhh
1K Followers 912 Following Developer of end-to-end autonomous driving at Turing. Quantum Annealing, Machine Learning / Founder of https://t.co/IbbgKIBHBx. Developer of PyQUBO.
Microsoft Research As... @msraurjp
3K Followers 569 Following Microsoft Research Asia -Tokyo, Japan： MSRにご興味のある方、インターン希望の方、Researcher希望の方、お気軽にご連絡ください。 【中の人：https://t.co/V8dTASC0js】
国立情報学研究... @jouhouken
20K Followers 2K Following 情報学で「未来価値創成」を目指す学術総合研究所です。基礎研究からAI、ビッグデータ、IoTなどの最先端研究と様々な学術機関を支える事業を通じ、社会課題解決、人材育成、国際貢献に取り組みます。大学共同利用機関法人 情報・システム研究機構 国立情報学研究所。National Institute of Informatics
LLM勉強会（LLM-jp... @llm_jp
2K Followers 0 Following LLM勉強会（LLM-jp）の公式アカウントです。 LLM勉強会では、自然言語処理および計算機システムの研究者が集まり大規模言語モデルの研究開発について定期的に情報共有を行っています。お問い合わせはウェブサイトの連絡先よりお願いします。
Toshinori Sato @overlast
7K Followers 2K Following ソフトバンク(株) 次世代技術開発本部 データエコシステム事業開発室 室長兼シニアテクノロジーエグゼクティブ/対話データ構築/元LINEのNLPチームのMgr/東京科学大学奥村船越研 社会人D1/元人工知能学会 理事/情処 自然言語処理研究会(NL研) 幹事/mecab-ipadic-neologdの開発/依頼はDMで
Microsoft Research @MSFTResearch
560K Followers 2K Following We advance science and technology to benefit humanity.
J. Kuroda @Isa_rentacs
2K Followers 2K Following Applied Scientist@AMZN, ex-MSFT。Student Pilot。NLPとかやっています。ベルギービールが好きです。大きめの🐶を飼っています。 麻布06/UEC07/UT(CS2011)
Toshiaki Nakazawa @Tzawa
2K Followers 370 Following 東大とかShareFairとかに所属 https://t.co/54g5UcxBR9 https://t.co/prsFdO7iAG…
Daisuke Kawahara @daisukekawahar1
529 Followers 245 Following Researcher in Natural Language Processing. https://t.co/Z2aa2lhCrv
Shohei Nagata🌗| AI... @shohei_aio
2K Followers 1K Following Product Manager @Salesforce - AI / ex-@Microsoft データ分析基盤やAzure AIの導入・活用支援/ 元Barista見習い @Starbucks
Hirosato Gamo | AI Cl... @hiro_gamo
12K Followers 519 Following @Microsoft AI Cloud Solution Architect / Microsoft Evangelist / 上智大学 大学院 応用データサイエンス学位プログラム 非常勤講師 GPTなどAI技術導入の支援、LLM開発の執筆・登壇、生成AI関連の講義などに従事。Posts on my own.
GIGAZINE(ギガジン... @gigazine
614K Followers 16 Following ニュースサイト「GIGAZINE」（ギガジン）公式アカウント。最新ニュースを速報中。365日年中無休で更新しています。誤字脱字指摘や記事ネタの連絡はGIGAZINEページ一番下にあるメールフォームへのリンクから送ってくれると助かります。
ITmedia NEWS @itmedia_news
349K Followers 11K Following ITニュースサイト「ITmedia NEWS」です。ニュースをめぐるあれやこれやを編集部からお届けします。記事更新情報は自社開発botが、編集部からのお知らせなどは手動で投稿しています。
Rio Yokota @rioyokota
472 Followers 293 Following Professor, Institute of Science Tokyo Research interests: HPC+ML
彷徨っている情... @tsuchm
1K Followers 366 Following 情報系の大学教員です。職務に関係するように見えるつぶやきが多いですが、全ての発言は架空のものであり、所属組織はもちろんのこと、本人の公式見解、現実世界とも関係ありません。不要なツイート（特にリプライやRT）は消しています。
Yoshinari Fujinuma @akkikiki
1K Followers 2K Following Member of Technical Staff@Cantina; CS PhD @CUBoulder; Ex-Senior Applied Scientist@AWS AI Labs; Ex-SWE@Amazon JP; 🇹🇭→🇯🇵→🇫🇷→🇯🇵→🇹🇭→🇯🇵→🇺🇸; JA/EN
Taka YAYOI/弥生 隆... @taka_aki
1K Followers 743 Following Apache Spark徹底入門発売中です！ https://t.co/ZOs9PL7Lr6 Databricksで働いてます。料理、酒、本、音楽、ジョギング、モノづくりをこよなく愛する人間のつもり。Qiitaで記事書いてます。発言内容は個人の見解です。
taguromaru / JK1RZI @xecus
4K Followers 5K Following TMCIT@W→TMU@EE編入→ABEJA。1994生まれの元高専生。現在エンジニアリングマネージャー&技術広報。技術で人や社会に貢献することを考えています。昔は医療機器や宇宙開発(CubeSat)にも携わってました。最近は六脚ロボットを自作しています。ENFP-T
レトリバ @retrieva_jp
744 Followers 312 Following 株式会社レトリバ(Retrieva, Inc.)の公式アカウントです。レトリバの発表や取り組みなどをご紹介します∪・ω・∪ Retrieva OFFICIAL note：https://t.co/T7BLSbi0Z5 Retrieva TECH BLOG：https://t.co/vFYrNvOiOz
スーパーコンピ... @Fugaku_hpci
5K Followers 35 Following スーパーコンピュータ「富岳」の公式アカウントです。 「富岳」を含むHPCIの利用案内、公募情報、研究成果、プレスリリース、イベントや講習会情報等について発信します。 運営：一般財団法人高度情報科学技術研究機構（RIST） 詳しい情報はWebサイトをご覧ください。
Ledge.ai | AIトレ�... @ledgeai
16K Followers 1K Following 国内最大級のAI（人工知能）関連メディア「https://t.co/yIoMifiwrK」の公式アカウントです。AIなど最新テクノロジーのニュース、活用事例、学習コンテンツ、開発に関わる情報を発信します。会員登録はこちら（https://t.co/mpJeJOpIrG）から。
人工知能・機械... @A_I_News
67K Followers 231 Following AI、機械学習、自然言語処理、Deep Learning、画像認識、Computer Vision などに関するニュースや有益な情報をツイート。論文・学習資料、ChatGPTの事例なども紹介。掲載のご申請はこちら: https://t.co/hNF68CqiDy
【公式】AINOW / �... @AINOW_ai
6K Followers 3K Following ■AI専門メディア【AINOW】の新着記事をお知らせ📩AI関連のイベントや企業の取材、役立つコラムまで幅広く発信します📲■【AI.Accelerator】では日本初のアクセラレーションプログラムとして、60社以上のAIスタートアップ支援をしています📈■編集長→【@ozaken_AI】
Satoshi Matsuoka @ProfMatsuoka
25K Followers 915 Following 理研計算科学研究センター長 Director RIKEN R-CCS, 東科大特定教授 Prof. Inst. Sci.. ACM/ISC/JSSST/IPSJ Fellows, IEEE Fernbach(2014)&Cray(2022) Awards, 令4紫綬褒章 Purple Ribbon Medal 2022
Ikuya Yamada @ikuyamada
2K Followers 546 Following Chief Scientist at @StudioOusia. Specially Appointed Professor at @tohoku_nlp. Visiting Professor at Nagoya University. 大規模言語モデル入門を監修・共著
𝕜𝕪𝕠 @kyo_takano
2K Followers 0 Following my last job as at a taco bell express but it became a full taco bell and I couldn't keep up
エイ @Near_Mou
331 Followers 642 Following 他愛ないこと言って、そーなんだと返す日常で。君も居れば僕みたいのも居る、そんな音楽を目指しています。3人組音楽ユニット「ニアマウ」のボカロP・Mix担当、作詞作曲編曲Mix、動画作成、プログラミング、Ph.D.、Sandbox Landオーナー、オーストリア在住経験
Shaden Smith @shaden_smith
268 Followers 657 Following Technical Staff at @MicrosoftAI. Prev. @InflectionAI, @MSFTDeepSpeed, and @Intel. Into horror, herpetology, and high performance computing. he/him
Ammar Ahmad Awan @ammar_awan
276 Followers 542 Following DeepSpeed-er @Microsoft, @MSFTDeepSpeed, Father, PhD, Wanna-be Professor, Technology Enthusiast.
Jeff Rasley @jeffra45
883 Followers 1K Following @Snowflake AI Research Team. @DeepSpeedAI co-founder, @BrownCSDept PhD, @uwcse alum
Conglong Li @conglongli
386 Followers 98 Following 李葱茏/リー ツォンロン Senior Research Scientist @GoogleDeepMind Japan office. Ex @Microsoft @DeepSpeedAI member. @SCSatCMU PhD. Views are my own. English/中文/日本語.
DeepSpeed @DeepSpeedAI
4K Followers 88 Following Official account for DeepSpeed, a library that enables unprecedented scale and speed for deep learning training + inference. 日本語 : @DeepSpeedAI_JP
Microsoft @Microsoft
14.0M Followers 2K Following We're on a mission to empower every person and every organization on the planet to achieve more. Support: @MicrosoftHelpsTrends for United States
You might like
