カテゴリ「安全性/研究」の記事 56 件 / 重要度・新しい順
TanStack npmサプライチェーン攻撃への対応
OpenAIは、TanStackの「ミニ・シャイ・フルード」サプライチェーン攻撃に対する対応を詳細に説明しています。この攻撃により、いくつかのシステムや署名証明書が影響を受けました。特にmacOSユーザーは、2026年6月12日までにOpenAIアプリを更新する必要があります。OpenAIは、進化するソフトウェアサプライチェーンの脅威に対して防御を強化する取り組みも紹介しています。
Claude Fable 5の再展開について
Anthropicは、輸出管理が解除されたため、7月1日よりClaude Fable 5を再展開すると発表しました。これに伴い、サイバーセキュリティの強化と新しい業界向けの脱獄フレームワークが導入されます。以前、米国政府は6月12日にClaude Fable 5およびClaude Mythos 5に対して輸出管理を適用したため、外国人ユーザーのアクセスを制限していました。現在、これらのモデルへのア
Claude Sonnet 5の発表
Claude Sonnet 5が発表されました。これは、コーディングや日常業務において高い知能を持つ、最もエージェント的なSonnetモデルです。Sonnet 5は、従来のモデルに比べて推論やツール使用、コーディングにおいて大幅に改善されており、より安全に使用できることが確認されています。すべてのプランで利用可能で、特に開発者にとって質の高いコストパフォーマンスを提供します。
次世代モデル GPT-5.6 Sol vs GPT-5 Pro — 何が進化したか
OpenAIの新モデルGPT-5.6 Solがプレビューされ、コーディングや科学、サイバーセキュリティでの強化が期待されています。過去のGPT-5 Proとの違いを比較し、技術の進化を見ていきます。
次世代モデル GPT-5.6 Sol のプレビュー
OpenAIが次世代モデルGPT-5.6 Solをプレビューしました。このモデルは、コーディング、科学、サイバーセキュリティにおいてより強力な能力を持ち、最も進んだ安全スタックと組み合わせられています。技術の進化は、AIの安全性を高めるだけでなく、さまざまな分野での利用を促進することが期待されます。
GPT-5が免疫学の3年越しの謎を解明
GPT-5 Proが免疫学における3年越しの謎を解決し、T細胞の行動に関する新たな洞察を提供しました。このブレークスルーは、癌や自己免疫疾患の研究を支援する可能性があります。
OpenAIが提供する新たなセキュリティツール「Daybreak」
OpenAIは新しい「Daybreak」ツールを発表しました。このツールには、Codex SecurityとGPT-5.5-Cyberが含まれており、組織が脆弱性を見つけ、検証し、大規模に修正するのを支援します。これにより、企業はセキュリティ向上を図ることが期待されます。
デプロイ前のモデル挙動予測手法を発表
OpenAIは、AIモデルのデプロイ前にその挙動を予測する「デプロイメントシミュレーション」を導入しました。この手法は、実際の会話データを使用しており、安全性や評価精度の向上を目指しています。これにより、リリース前にモデルのパフォーマンスを評価し、潜在的なリスクを軽減することが可能になります。
Runway Gen-3 Alpha: 次世代AI動画生成技術
Runwayが新たに発表したGen-3 Alphaは、次世代の基盤モデルであり、大規模なマルチモーダルトレーニングのために構築された新インフラ上でトレーニングされています。Gen-2に比べ、忠実度、一貫性、動きにおいて大幅な向上が見られ、一般的な世界モデルの構築に向けた一歩となります。Gen-3 Alphaは、動画と画像を共同でトレーニングし、テキストから動画、画像から動画、テキストから画像への変
安全なジェネレーティブメディアの基盤を構築するための取り組み
Runwayは、創造性を支援するためのジェネレーティブAIモデルにおいて、安全性、フェアネス、誠実性のガードレールを開発しました。特に、有害なコンテンツを生成する悪意のあるユーザーを検出し、ブロックするための視覚的モデレーションシステムを構築。モデルのF1スコアは83%で、子どもの安全を守るためのポリシーも整備しています。多様な文化的背景を持つユーザーへの配慮も強調されています。
新たな画像生成モデル「Frames」の紹介
Runwayは新しい画像生成モデル「Frames」を発表しました。このモデルはスタイルの一貫性を保ちながら、クリエイティブな探求を広げることができ、特定のプロジェクトに合わせた外観を設定することが可能です。FramesはGen-3 AlphaおよびRunway APIでの利用が段階的に開始されており、ユーザーはよりシームレスな創作の流れの中で世界を構築できます。また、安全な運用のためのコンテンツモ
ロボット政策評価を加速する世界モデルの活用
Runwayが開発したGWM-Roboticsを使用して、物理ハードウェアなしでロボットのマニピュレーションポリシーを評価することが可能になりました。シミュレーションと現実世界の結果を比較したところ、相関係数は0.95に達し、GWM-Roboticsがロボットポリシーの評価において信頼できる代理となることが示されました。これにより、従来のハードウェア評価に代わる実用的な手段が提供され、ロボティクス
徹底比較: Claude Fable 5 vs Mythos 5 — 新機能と価格の進化
Anthropicが新たに発表したClaude Fable 5とMythos 5を比較。両モデルはAI能力で高い評価を受けており、特に価格面での大幅な割引が注目されます。これにより、ユーザーはより手頃な価格で最先端の技術を利用可能です。
Claude Fable 5とMythos 5の発表
Anthropicは、一般利用向けに安全化されたMythosクラスのモデルClaude Fable 5を発表しました。このモデルは、AI能力のほとんどのテストベンチマークで最先端を行っており、特にソフトウェアエンジニアリングや知識作業、科学研究などで優れた性能を示しています。同時に、サイバーセキュリティ分野でのリスクを軽減するために、Claude Mythos 5も発表され、米国政府との協力により
AIによるサイバー脅威の1年の分析結果
AIがサイバー攻撃の手法を変化させる中、セキュリティコミュニティの技術やフレームワークはどれだけ通用するのかを調査したレポートが発表されました。832件の悪意あるサイバー活動がバンされたアカウントを分析した結果、AIは67.3%のケースでマルウェア作成に利用され、リスクの高い攻撃者が増加しています。特に、AIが攻撃者の技術的知識に関係なく、より深い攻撃手法に応用される傾向が見られました。
プロジェクトグラスウィングの拡張
Anthropicはプロジェクトグラスウィングを約150の新組織に拡張すると発表しました。このプロジェクトは、重要なソフトウェアを保護するための協力的な取り組みで、初期の50のパートナーがすでに脆弱性をスキャンし、1万以上のセキュリティ欠陥を発見しています。新たに追加される組織は15カ国以上に広がり、エネルギー、水、医療などの重要なインフラを提供しており、サイバーセキュリティの進化においてAIが果
Luma、一般化問題解決に向けたオープン物理AIラボを設立
Lumaは、物理AIにおける一般化問題を解決するためのオープンサイエンスラボを設立することを発表しました。このラボでは、物理世界での理解と相互作用のためのワールドモデルを開発し、ロボットシステムの普及を目指します。物理AIは労働力不足の解決にも寄与する可能性があり、オープンな基盤を提供することで、誰でも利用・改良できることを目指しています。
OpenAIモデルが離散幾何学の中心的予想を覆す
OpenAIのモデルが80年前からのユニット距離問題を解決し、離散幾何学における主要な予想を覆しました。この成果はAI主導の数学の重要なマイルストーンを示しています。AI技術の進展が数学の領域にどのような影響を与えるかが注目されます。
AI研究の次なるフロンティア、一般的なワールドモデル
AIの次の大きな進展は、視覚世界とそのダイナミクスを理解するシステムから生まれると考えられています。Runwayは、一般的なワールドモデルを構築する長期的な研究を開始しました。ワールドモデルとは、AIシステムが環境の内部表現を構築し、その環境内での未来の出来事をシミュレーションするものです。これまでの研究は、限られた設定に焦点を当てていましたが、一般的なワールドモデルは現実世界で遭遇する幅広い状況
徹底比較: FLUX.1 Kontext vs FLUXモデル — 新旧の違い
FLUX.1 Kontextは新たに発表された画像生成モデルで、従来のFLUXモデルと比較して、テキストと画像を融合させたプロンプト生成が特徴です。特に、画像の編集機能が強化され、生成速度も8倍向上しています。これにより、ユーザーはより迅速かつ高品質な画像生成が可能になりました。
FLUX.1 Kontext発表とBFL Playgroundの紹介
FLUX.1 Kontextは、画像生成と編集が可能な生成的フローマッチングモデルの新しいスイートです。従来のテキストから画像への生成モデルとは異なり、テキストと画像の両方を使ってプロンプトを作成し、視覚的概念を抽出・修正することができます。FLUX.1 Kontextは、迅速な画像生成を実現し、最高の品質を保ちながら、簡単なテキスト指示で画像を修正することを可能にします。
AIの悪用防止に向けた新たな取り組み
Black Forest Labsは、視覚生成に特化したFLUXモデルを持つAI企業で、悪用を防ぐための新たな手法を発表しました。特に、合成された非同意の親密な画像（NCII）や児童性的虐待素材（CSAM）に対するリスクの軽減に取り組んでいます。オープンリサーチを通じて、開発者が自由に新しいツールを構築できる環境を提供しつつ、安全対策を強化しています。リリース前にはリスク評価を行い、外部評価機関と
ゲイツ財団との2億ドルパートナーシップ
Anthropicは、ゲイツ財団と協力して2億ドルの資金を提供します。この資金は、グローバルヘルス、ライフサイエンス、教育、経済の向上を目指すプログラムに使われます。特に、低中所得国の健康に関する取り組みを強化し、AI（人工知能）を用いて新しいワクチンや治療法の開発を加速します。また、教育分野でも成果を上げるためのツールを共同開発します。
TRIBE v2の発表：人間の脳の刺激処理を理解する予測型基盤モデル
Meta AIがTRIBE v2という新しい予測型基盤モデルを発表しました。このモデルは、人間の脳が複雑な刺激をどのように処理するかを理解することを目的としています。TRIBE v2は、様々なデータを基に人間の思考過程を模倣し、より効果的なAIの開発に貢献することが期待されています。
Stability AI、SOC 2 Type IIおよびSOC 3認証を取得
Stability AIは、SOC 2 Type IIおよびSOC 3認証を取得しました。この認証は、同社のセキュリティ対策とデータ保護の実践が厳格な第三者監査により検証されたことを示しています。これにより、企業はStability AIのAIツールを安心して業務に統合できるようになります。特に、創造的な資産やブランド資料を扱う組織にとって、知的財産の保護と機密性の維持が重要です。
Stability AIの年次透明性レポート発表
Stability AIは、責任を持って生成AIを開発・展開することにコミットしています。この透明性レポートでは、AIシステムの設計、テスト、監視方法、悪用の防止策についての情報が共有されています。データセットの評価やリスクアセスメントを通じて、有害コンテンツの排除を目指しています。また、子どもを守るためのポリシーも強調されています。
ChatGPTが敏感な会話における文脈認識を向上
新しいChatGPTの安全性アップデートにより、敏感な会話における文脈認識が改善されました。このアップデートは、リスクを時間をかけて検出し、より安全に応答する能力を向上させます。これにより、ユーザーはより安心して会話を行うことができるようになります。
OpenAIのCodexを安全に運用する方法
OpenAIはCodexというコーディングエージェントを安全に運用するために、サンドボックス（隔離環境）、承認プロセス、ネットワークポリシー、エージェントネイティブのテレメトリ（監視データ）を利用しています。これにより、Codexの導入が安全で法令に適合するよう支援しています。
GPT-5.5とGPT-5.5-Cyberでサイバーセキュリティ向上
OpenAIは、GPT-5.5およびGPT-5.5-Cyberを用いて、サイバーセキュリティのためのTrusted Access（信頼できるアクセス）を拡張しました。これにより、認定された防御者たちは脆弱性の調査を加速し、重要なインフラを保護することが可能となります。
ChatGPTに信頼できるコンタクト機能を導入
ChatGPTに新たに導入された「信頼できるコンタクト」機能は、深刻な自傷行為の懸念が検出された際に、ユーザーが信頼する人に通知するオプションの安全機能です。この機能は、ユーザーの安全を第一に考えたものであり、心の健康を支援するための役割を果たします。
GPT-5.5 Instant: よりスマートで明確な応答の実現
GPT-5.5 Instantは、ChatGPTのデフォルトモデルを更新し、よりスマートで正確な回答を提供します。また、幻覚（hallucinations）の減少と、パーソナライズ機能の改善も行われています。これにより、ユーザーはより自分に合った応答を得ることができるようになります。
AI共同医師による新しい医療モデルの実現
AI（人工知能）を活用した医療の進展について、AI共同医師の開発が進められています。この研究は、AIが医療現場でどのように役立つかを探るもので、AIによる支援が医療の質を向上させる可能性があります。
KAME: リアルタイム音声対話AIの知識向上のためのタンドムアーキテクチャ
KAMEは、リアルタイムの音声対話AI向けに設計された新しいタンドムアーキテクチャです。このアーキテクチャは、対話中に知識を強化することを目的としています。音声から音声への変換を行うAIは、ユーザーの発言を理解し、適切な応答を生成するために、リアルタイムで情報を処理する能力が求められます。KAMEは、こうしたニーズに応えるため、対話の流れをよりスムーズにし、知識の更新を迅速に行うことができる点が特
オーストラリア政府とAnthropicがAI安全性に関するMOUを締結
Anthropicはオーストラリア政府とAI安全性に関する覚書（MOU）を締結しました。CEOのダリオ・アモデイ氏は、キャンベラでアルバニージ首相と会談し、オーストラリアの国家AI計画を支援することを確認しました。MOUには、AI安全性研究の共同実施や、オーストラリアのAI安全研究所との連携が含まれています。また、300万豪ドルの資金をオーストラリアの研究機関と提携し、Claudeを用いた病気診断
Claude Opus 4.7が一般公開
最新モデルのClaude Opus 4.7が一般公開されました。Opus 4.7は、特に難易度の高いタスクにおいて、前のバージョンであるOpus 4.6から顕著な改善が見られます。ユーザーは、以前は監視が必要だった難しいコーディング作業を、このモデルに安心して任せられると報告しています。また、Opus 4.7は高解像度の画像を処理でき、専門的なタスクをより創造的かつ高品質に完了することができます。
分離型DiLoCo: レジリエントな分散AIトレーニングの新たな境地
この記事では、分離型DiLoCo（Decoupled DiLoCo）という新しい手法を提案しています。この手法は、AIトレーニングを分散させることで、よりレジリエント（回復力のある）なシステムを実現することを目指しています。分散トレーニングにより、システムの信頼性が向上し、障害時にも安定したパフォーマンスを維持できる可能性があります。このアプローチは、AIのトレーニングにおける新しいフロンティアを
GeneBench-Proの導入
GeneBench-Proが発表され、AIのゲノム学、生物学、科学研究におけるパフォーマンスを、複雑で実世界のデータセットを使用して評価する新たなベンチマークが登場しました。これにより、AIの能力をよりリアルな状況で測定できるようになります。
先進的AIのための共通基準構築を支援
OpenAIはAppia Foundationを通じて、先進的AIの評価基準、セーフティプラクティス、国際協力の構築を支援しています。これにより、AIの安全性と効果的な利用が促進されることが期待されています。
オープンソース維持者支援の新イニシアチブ「Patch the Planet」
OpenAIが新たに発表した「Patch the Planet」は、オープンソースプロジェクトの維持者がAIと専門家のレビューを利用して脆弱性を発見・検証・修正することを支援するイニシアチブです。この取り組みは、オープンソースソフトウェアの安全性と信頼性を向上させることを目指しています。
AMIEが健康管理に役立つ可能性を示す新研究
Googleの研究によると、同社の会話型AIシステムAMIEが、複雑な病状管理において一次医療の医師と同等のパフォーマンスを発揮することが確認されました。この研究は、AMIEが医療現場での健康管理に役立つ可能性を示唆しています。AIを活用した医療の進展が期待される中、AMIEの役割が注目されています。
AIエージェントの未来を守るための取り組み
Google DeepMindは、AIエージェントの内部システムを守るために、伝統的な安全対策とリアルタイム監視を組み合わせたAI制御ロードマップを発表しました。この取り組みは、AIの安全性を高め、将来のリスクを軽減することを目的としています。
生成系システムにおける偏見の軽減に関する研究
最新のテキストから画像を生成するモデルは、特定のグループ、特に肌の色が明るいとされる人々や男性を過剰に代表する社会的偏見を示すことが知られています。本研究では、さまざまな肌の色や性別を持つ合成データを用いてモデルを微調整する方法を提案し、異なるグループ間で公平な結果を確保することを目的としています。結果、肌の色の認識における公平性メトリックが150%、性別において97.7%改善されました。すべての
マルチエージェントAI安全性研究に10百万ドルの投資
Google DeepMindは、マルチエージェント安全性研究のために1,000万ドルの資金提供を発表しました。この研究は、AIが人間と協力しながら安全に機能するための方法を模索するものです。この取り組みは、AIシステムの安全性を向上させるために重要なステップとされています。
Sakana AIの再帰的自己改善(RSI)ラボの紹介
Sakana AIは再帰的自己改善(RSI)ラボを設立しました。このラボでは、AIの自己改善を促進するための研究開発が行われ、AIシステムが自らの性能を向上させる能力を強化することを目指しています。これにより、より効率的で効果的なAIソリューションが期待されます。
先進AIの民主的ガバナンスに向けたBlueprint
OpenAIは先進AIのための米国におけるガバナンスのBlueprintを提案し、安全性、レジリエンス、国家安全保障に関する連邦の枠組みを示しています。この提案は、AI技術の急速な進化に対応するための重要なステップと位置付けられています。
若者の安全と機会の向上に向けたグローバルリーダーシップの推進
OpenAIは、若者のAI安全を促進するための専用のAI安全研究所の設立を呼びかけており、グローバルな行動を求めています。これは、AI技術が若者に与える影響を考慮し、より安全で機会に満ちた未来を築くための重要なステップです。
信頼性のある第三者評価のための共有プレイブック
OpenAIは、AIモデルの能力、セーフガード（安全措置）、およびフロンティアシステムの有効性を評価するための第三者評価に関するガイダンスを提供しています。これは、AI技術の信頼性を高めるための重要なステップであり、利用者や開発者がAIをより安心して活用できるようになることを目指しています。
OpenAIのフロンティアガバナンスフレームワークについて
OpenAIは、同社のAI安全性、セキュリティ、リスク管理の実践が、進化するEUおよびカリフォルニアの規制にどのように整合しているかを示す「フロンティアガバナンスフレームワーク」を発表しました。このフレームワークは、AI技術の発展に伴う倫理的および法的な課題に対処するための重要なステップです。
2026年の選挙情報と安全対策
2026年のグローバル選挙を前に、OpenAIは情報へのアクセスを支援し、サイバー防御者をサポートし、AIの透明性を高める取り組みを行っています。これにより、選挙の公正性や安全性が向上することが期待されます。
フロンティアAIに関する対話を広げる
AnthropicはAI安全性と研究を重視する企業で、多様な視点からAIの倫理や価値を探求する対話を進めています。特に宗教や哲学の分野からの知見を取り入れ、AIシステムの良い行動や特性について議論を展開中です。これにより、ClaudeというAIモデルの価値観や行動基準を形成する上での方向性を明確にしようとしています。
AIコンテンツの出所を明確にする取り組み
OpenAIは、AIによるメディア生成の信頼性を向上させるために、Content CredentialsやSynthID、検証ツールを導入しました。これにより、ユーザーはAI生成メディアの出所を確認でき、より安全で透明性のあるAIエコシステムの構築を目指しています。
Windows向けCodexの安全なサンドボックス構築
OpenAIは、Windows上でCodexを利用可能にするための安全なサンドボックスを構築しました。このサンドボックスは、ファイルアクセスやネットワーク制限をコントロールすることで、安全かつ効率的なコーディングエージェントを実現します。これにより、ユーザーはより安心してコードを書くことができるようになります。
DINOとSAMが医療トリアージの近代化を支援
ペンシルベニア大学のチームが先進的なAIモデルであるDINOとSAMを活用し、緊急対応の自動化を進めています。これにより、医療トリアージ（患者の優先順位付け）の精度と効率を向上させることを目指しています。AI技術の導入は、患者の迅速かつ適切な処置を可能にし、医療現場の負担軽減に寄与するでしょう。
高度なAIの構築とテストの拡張
Anthropicは、より能力の高いパーソナライズされたAIを構築する中で、信頼性やセキュリティ、ユーザー保護がますます重要になるとしています。これにより、ユーザーに対する保護策が強化され、AIの利用が安全で信頼できるものとなることを目指しています。
Stability AIがTech Coalitionに参加
Stability AIは、オンラインの子どもに対する性的搾取や虐待に立ち向かうための技術企業のグローバルアライアンスであるTech Coalitionに参加したことを発表しました。この参加により、業界のガイダンスや同業者の洞察を活用しながら、安全性と責任を重視した技術の開発を進めていくとしています。共同作業を通じて、デジタルエコシステム内での脆弱なユーザーの保護を強化することを目指しています。
AI支援研究の新たな発見を探るパラメータゴルフ
パラメータゴルフは、AI支援の機械学習研究、コーディングエージェント、量子化（quantization）、新しいモデル設計を厳しい制約の下で探求するために1,000人以上の参加者と2,000件以上の提出物を集めました。このイベントは、AI技術の進展に寄与する重要な機会となりました。