カテゴリ「安全性/研究」の記事 39 件 / 重要度・新しい順
TanStack npmサプライチェーン攻撃への対応
OpenAIは、TanStackの「ミニ・シャイ・フルード」サプライチェーン攻撃に対する対応を詳細に説明しています。この攻撃により、いくつかのシステムや署名証明書が影響を受けました。特にmacOSユーザーは、2026年6月12日までにOpenAIアプリを更新する必要があります。OpenAIは、進化するソフトウェアサプライチェーンの脅威に対して防御を強化する取り組みも紹介しています。
AI研究の次なるフロンティア、一般的なワールドモデル
AIの次の大きな進展は、視覚世界とそのダイナミクスを理解するシステムから生まれると考えられています。Runwayは、一般的なワールドモデルを構築する長期的な研究を開始しました。ワールドモデルとは、AIシステムが環境の内部表現を構築し、その環境内での未来の出来事をシミュレーションするものです。これまでの研究は、限られた設定に焦点を当てていましたが、一般的なワールドモデルは現実世界で遭遇する幅広い状況
徹底比較: FLUX.1 Kontext vs FLUXモデル — 新旧の違い
FLUX.1 Kontextは新たに発表された画像生成モデルで、従来のFLUXモデルと比較して、テキストと画像を融合させたプロンプト生成が特徴です。特に、画像の編集機能が強化され、生成速度も8倍向上しています。これにより、ユーザーはより迅速かつ高品質な画像生成が可能になりました。
FLUX.1 Kontext発表とBFL Playgroundの紹介
FLUX.1 Kontextは、画像生成と編集が可能な生成的フローマッチングモデルの新しいスイートです。従来のテキストから画像への生成モデルとは異なり、テキストと画像の両方を使ってプロンプトを作成し、視覚的概念を抽出・修正することができます。FLUX.1 Kontextは、迅速な画像生成を実現し、最高の品質を保ちながら、簡単なテキスト指示で画像を修正することを可能にします。
AIの悪用防止に向けた新たな取り組み
Black Forest Labsは、視覚生成に特化したFLUXモデルを持つAI企業で、悪用を防ぐための新たな手法を発表しました。特に、合成された非同意の親密な画像（NCII）や児童性的虐待素材（CSAM）に対するリスクの軽減に取り組んでいます。オープンリサーチを通じて、開発者が自由に新しいツールを構築できる環境を提供しつつ、安全対策を強化しています。リリース前にはリスク評価を行い、外部評価機関と
ゲイツ財団との2億ドルパートナーシップ
Anthropicは、ゲイツ財団と協力して2億ドルの資金を提供します。この資金は、グローバルヘルス、ライフサイエンス、教育、経済の向上を目指すプログラムに使われます。特に、低中所得国の健康に関する取り組みを強化し、AI（人工知能）を用いて新しいワクチンや治療法の開発を加速します。また、教育分野でも成果を上げるためのツールを共同開発します。
TRIBE v2の発表：人間の脳の刺激処理を理解する予測型基盤モデル
Meta AIがTRIBE v2という新しい予測型基盤モデルを発表しました。このモデルは、人間の脳が複雑な刺激をどのように処理するかを理解することを目的としています。TRIBE v2は、様々なデータを基に人間の思考過程を模倣し、より効果的なAIの開発に貢献することが期待されています。
Stability AI、SOC 2 Type IIおよびSOC 3認証を取得
Stability AIは、SOC 2 Type IIおよびSOC 3認証を取得しました。この認証は、同社のセキュリティ対策とデータ保護の実践が厳格な第三者監査により検証されたことを示しています。これにより、企業はStability AIのAIツールを安心して業務に統合できるようになります。特に、創造的な資産やブランド資料を扱う組織にとって、知的財産の保護と機密性の維持が重要です。
Stability AIの年次透明性レポート発表
Stability AIは、責任を持って生成AIを開発・展開することにコミットしています。この透明性レポートでは、AIシステムの設計、テスト、監視方法、悪用の防止策についての情報が共有されています。データセットの評価やリスクアセスメントを通じて、有害コンテンツの排除を目指しています。また、子どもを守るためのポリシーも強調されています。
ChatGPTが敏感な会話における文脈認識を向上
新しいChatGPTの安全性アップデートにより、敏感な会話における文脈認識が改善されました。このアップデートは、リスクを時間をかけて検出し、より安全に応答する能力を向上させます。これにより、ユーザーはより安心して会話を行うことができるようになります。
OpenAIのCodexを安全に運用する方法
OpenAIはCodexというコーディングエージェントを安全に運用するために、サンドボックス（隔離環境）、承認プロセス、ネットワークポリシー、エージェントネイティブのテレメトリ（監視データ）を利用しています。これにより、Codexの導入が安全で法令に適合するよう支援しています。
GPT-5.5とGPT-5.5-Cyberでサイバーセキュリティ向上
OpenAIは、GPT-5.5およびGPT-5.5-Cyberを用いて、サイバーセキュリティのためのTrusted Access（信頼できるアクセス）を拡張しました。これにより、認定された防御者たちは脆弱性の調査を加速し、重要なインフラを保護することが可能となります。
ChatGPTに信頼できるコンタクト機能を導入
ChatGPTに新たに導入された「信頼できるコンタクト」機能は、深刻な自傷行為の懸念が検出された際に、ユーザーが信頼する人に通知するオプションの安全機能です。この機能は、ユーザーの安全を第一に考えたものであり、心の健康を支援するための役割を果たします。
GPT-5.5 Instant: よりスマートで明確な応答の実現
GPT-5.5 Instantは、ChatGPTのデフォルトモデルを更新し、よりスマートで正確な回答を提供します。また、幻覚（hallucinations）の減少と、パーソナライズ機能の改善も行われています。これにより、ユーザーはより自分に合った応答を得ることができるようになります。
AI共同医師による新しい医療モデルの実現
AI（人工知能）を活用した医療の進展について、AI共同医師の開発が進められています。この研究は、AIが医療現場でどのように役立つかを探るもので、AIによる支援が医療の質を向上させる可能性があります。
KAME: リアルタイム音声対話AIの知識向上のためのタンドムアーキテクチャ
KAMEは、リアルタイムの音声対話AI向けに設計された新しいタンドムアーキテクチャです。このアーキテクチャは、対話中に知識を強化することを目的としています。音声から音声への変換を行うAIは、ユーザーの発言を理解し、適切な応答を生成するために、リアルタイムで情報を処理する能力が求められます。KAMEは、こうしたニーズに応えるため、対話の流れをよりスムーズにし、知識の更新を迅速に行うことができる点が特
オーストラリア政府とAnthropicがAI安全性に関するMOUを締結
Anthropicはオーストラリア政府とAI安全性に関する覚書（MOU）を締結しました。CEOのダリオ・アモデイ氏は、キャンベラでアルバニージ首相と会談し、オーストラリアの国家AI計画を支援することを確認しました。MOUには、AI安全性研究の共同実施や、オーストラリアのAI安全研究所との連携が含まれています。また、300万豪ドルの資金をオーストラリアの研究機関と提携し、Claudeを用いた病気診断
Claude Opus 4.7が一般公開
最新モデルのClaude Opus 4.7が一般公開されました。Opus 4.7は、特に難易度の高いタスクにおいて、前のバージョンであるOpus 4.6から顕著な改善が見られます。ユーザーは、以前は監視が必要だった難しいコーディング作業を、このモデルに安心して任せられると報告しています。また、Opus 4.7は高解像度の画像を処理でき、専門的なタスクをより創造的かつ高品質に完了することができます。
分離型DiLoCo: レジリエントな分散AIトレーニングの新たな境地
この記事では、分離型DiLoCo（Decoupled DiLoCo）という新しい手法を提案しています。この手法は、AIトレーニングを分散させることで、よりレジリエント（回復力のある）なシステムを実現することを目指しています。分散トレーニングにより、システムの信頼性が向上し、障害時にも安定したパフォーマンスを維持できる可能性があります。このアプローチは、AIのトレーニングにおける新しいフロンティアを
Windows向けCodexの安全なサンドボックス構築
OpenAIは、Windows上でCodexを利用可能にするための安全なサンドボックスを構築しました。このサンドボックスは、ファイルアクセスやネットワーク制限をコントロールすることで、安全かつ効率的なコーディングエージェントを実現します。これにより、ユーザーはより安心してコードを書くことができるようになります。
DINOとSAMが医療トリアージの近代化を支援
ペンシルベニア大学のチームが先進的なAIモデルであるDINOとSAMを活用し、緊急対応の自動化を進めています。これにより、医療トリアージ（患者の優先順位付け）の精度と効率を向上させることを目指しています。AI技術の導入は、患者の迅速かつ適切な処置を可能にし、医療現場の負担軽減に寄与するでしょう。
高度なAIの構築とテストの拡張
Anthropicは、より能力の高いパーソナライズされたAIを構築する中で、信頼性やセキュリティ、ユーザー保護がますます重要になるとしています。これにより、ユーザーに対する保護策が強化され、AIの利用が安全で信頼できるものとなることを目指しています。
Stability AIがTech Coalitionに参加
Stability AIは、オンラインの子どもに対する性的搾取や虐待に立ち向かうための技術企業のグローバルアライアンスであるTech Coalitionに参加したことを発表しました。この参加により、業界のガイダンスや同業者の洞察を活用しながら、安全性と責任を重視した技術の開発を進めていくとしています。共同作業を通じて、デジタルエコシステム内での脆弱なユーザーの保護を強化することを目指しています。
AI支援研究の新たな発見を探るパラメータゴルフ
パラメータゴルフは、AI支援の機械学習研究、コーディングエージェント、量子化（quantization）、新しいモデル設計を厳しい制約の下で探求するために1,000人以上の参加者と2,000件以上の提出物を集めました。このイベントは、AI技術の進展に寄与する重要な機会となりました。
Sakana AIが防衛分野の最前線を語る
Sakana AIのソフトウェアエンジニアへのインタビューでは、防衛分野におけるAI技術の最新の進展とその実用化について語られています。特に、AIがどのように防衛システムの最適化や効率化に寄与しているか、そして今後の展望について具体的な事例が紹介されています。このインタビューは、AIが防衛業界において果たす役割を理解するための貴重な情報源となるでしょう。
ChatGPTでの広告テスト開始
OpenAIは、ChatGPT内での広告テストを開始しました。この取り組みは、ユーザーが無料でサービスを利用できるようにするためのものです。広告は明確にラベル付けされ、回答の独立性を保ち、強力なプライバシー保護が提供され、ユーザーの制御が強化されます。
ChatGPTのプライバシー保護と学習方法
ChatGPTはユーザーのプライバシーを守るために、個人データの使用を減らしています。また、ユーザーは会話がAIモデルの改善に役立つかどうかを選択できます。これにより、プライバシーが保護されながら、AIが学習を進める仕組みを紹介しています。
EMEA地域における若者の安全と福祉の推進
OpenAIは、EMEA（ヨーロッパ、中東、アフリカ）における若者の安全と福祉を向上させるために、新しい「ヨーロッパ若者安全ブループリント」と「EMEA若者と福祉助成金」を発表しました。これにより、ティーンエイジャーや家族、教育者に対して安全で責任あるAIの利用が促進されます。
選挙に向けたClaudeの安全対策の更新
AnthropicはAI安全性に取り組む企業で、選挙に関する情報を提供するClaudeを強化しています。Claudeは、政治的な質問に対して、公平かつ正確な回答を行うことを目指しており、様々な政治的視点に深く対応します。また、選挙関連の利用ポリシーを設定し、誤情報の拡散や不正行為を防ぐための検出システムを導入しています。これにより、Claudeは有害なリクエストに対しても適切に対応できるようになっ
Google Ads Advisorが安全で迅速に広告運用を支援
GoogleはAds Advisorの新機能を発表しました。これにより、Google Adsの運用がより安全かつ迅速になります。特に、広告の表示や管理が改善されることで、ユーザーがより効果的に広告を運用できるようになります。新機能は、広告の質を向上させるためのもので、特に広告主にとって有益です。
Claude Code v2.1.113のリリース情報
Claude Codeの新バージョンv2.1.113がリリースされ、CLIの変更やセキュリティ向上、バグ修正などが行われました。特に、特定のドメインをブロックする設定や、全画面モードでの操作改善が加わり、ユーザー体験が向上しています。また、マルチライン入力におけるカーソル移動の挙動も改善され、より効率的な操作が可能になりました。
Sakana AI、SNS可視化と偽情報対策技術を開発
Sakana AIは、総務省の事業においてSNSの可視化と偽情報の判定、対策案の立案を支援するシステムを開発しました。この技術は、インターネット上の偽・誤情報に対する対策として重要です。
有害な操作から人々を守る取り組み
Google DeepMindは、AIが金融や健康などの分野で引き起こす可能性のある有害な操作のリスクを研究し、新たな安全対策を導入しています。これにより、AIの利用による悪影響を軽減し、人々を守ることを目指しています。
AGIに向けた進捗測定のフレームワークを発表
Google DeepMindがAGI（人工一般知能）に向けた進捗を測定するためのフレームワークを発表しました。このフレームワークは、AGIの評価に関するKaggleハッカソンの開催とともに導入されます。これにより、AGIの進展をより正確に把握し、今後の研究に役立てることを目指しています。
Gemini 3 Deep Thinkが科学と研究の挑戦を解決
Gemini 3 Deep Thinkは、最も専門的な推論モードが更新され、現代の科学、研究、技術の課題に対応できるようになりました。このアップデートにより、AIの性能が向上し、より複雑な問題解決が可能になります。
米国地質調査と連携した洪水対策支援
米国の大学宇宙研究協会（USRA）がMetaと連携し、米国地質調査所が設置した水観測システムを支援することになりました。この取り組みは、洪水緊急時における対応能力を向上させることを目的としています。
Claude Code v2.1.126の新機能と修正内容
Claude Codeの新バージョンv2.1.126がリリースされ、いくつかの新機能とバグ修正が行われました。新たにモデル選択が改善され、プロジェクトの状態を削除するコマンドが追加されました。また、OAuthログインの改善や、特定の環境での安定性向上が図られています。セキュリティ関連の問題も修正され、より安全に使用できるようになっています。
Claude Code v2.1.116のリリース情報
Claude Codeの新バージョンv2.1.116では、セッションの再開が最大67%速くなり、VS Codeやターミナルでのスクロールがスムーズになりました。また、複数のバグ修正が行われ、ユーザーの操作性が向上しています。特に、サンドボックスの自動許可機能が危険なパスをバイパスしないようになった点は安全性の向上に寄与しています。
Claude Code v2.1.114のバグ修正
Claude Codeの新バージョンv2.1.114がリリースされました。このアップデートでは、エージェントチームのメンバーがツールの使用許可をリクエストした際に発生するダイアログのクラッシュが修正されました。これにより、ユーザーはより安定してアプリを使用できるようになります。