Kanadai régiókból érkezik a hozzáférés
Az Amazon Web Services bejelentése szerint október 20-tól a kanadai szervezetek is elérhetik az OpenAI új modelljeit az Amazon Bedrock felületén. A lehetőség a Canada Central, vagyis a ca-central-1, valamint a Canada West, azaz a ca-west-1 régióból használható. A kínálatban a GPT-5.6, a GPT-6 és a GPT-6.1 modellcsalád tagjai szerepelnek.
A változás lényege, hogy a kanadai ügyfelek saját országukban található Amazon Bedrock forrásrégióból indíthatják a kéréseket. A háttérben a cross-Region inference dolgozik, amely a feldolgozási feladatot az adott profil szabályai alapján továbbítja egy támogatott észak-amerikai régióba. Az AI Hírek beszámolója szerint ez elsősorban a kapacitás rugalmasabb kihasználása miatt lehet fontos.
Eltérő feladatokra szánt modellváltozatok
A GPT-5.6 családból a Sol, a Terra és a Luna változat érhető el. A GPT-6 esetében az Astra, a Sol és a Luna szerepel a listán, míg a GPT-6.1 családot jelenleg a Sol képviseli. Az AWS eltérő használati célokat társít az egyes modellekhez, így a fejlesztők a feladat jellegéhez igazíthatják a választásukat.
- A GPT-6.1 Sol a teljesítmény és a költségek egyensúlyát szem előtt tartó munkákhoz készült.
- A GPT-6 Astra összetett, végponttól végpontig tartó következtetési és ügynöki feladatokra szolgál.
- A GPT-6 Sol rendszeres használatra szánt, erős következtetési és kódolási modell.
- A GPT-6 Luna gyors, alacsony költségű megoldás nagy mennyiségű, ismétlődő feladatokra.
A feldolgozási régió a kiválasztott profiltól függ
A cross-Region inference kapacitáskezelési mechanizmusként működik. Az alkalmazás a kanadai forrásrégió Amazon Bedrock Runtime végpontját hívja meg, a szolgáltatás pedig egy támogatott célrégióba küldi tovább a kérést. A fejlesztőknek ezért nem kell saját kódjukban külön kezelniük a célrégió kiválasztását.
Kanadából kétféle inference profile használható. Az US geographic profilok a kanadai régió és az Egyesült Államok régiói között továbbítják az adatokat. Az AWS ezt akkor javasolja, ha a feldolgozásnak Észak-Amerikán belül, Kanadában és az Egyesült Államokban kell maradnia. A Global profilok ezzel szemben a modell által támogatott kereskedelmi AWS-régiók közül választanak, ezért szélesebb kapacitáskészletet kínálhatnak.
A rendelkezésre állás nem minden régióban azonos. A GPT-5.6 modellek Global profilja jelenleg csak a ca-central-1 régióból érhető el, Calgaryból ehhez a modellcsaládhoz az US geographic profilt kell használni. Az AWS azt tanácsolja, hogy éles üzembe helyezés előtt a fejlesztők az AWS CLI-ben vagy a konzolon ellenőrizzék az aktív profilokat. A profilok tagsága és a modellek elérhetősége később változhat.
Három API és egymillió tokenes kontextus
A GPT-5.6, GPT-6 és GPT-6.1 modellek szöveges, illetve képi bemenetet fogadnak, és szöveges választ adnak. Mindegyik modell támogatja az egymillió tokenes kontextusablakot, a következtetési módot és az eszközhívást. Az Amazon Bedrockon promptgyorsítótár is használható, ami ismétlődő munkafolyamatoknál csökkentheti a felesleges feldolgozást.
A hozzáférés az OpenAI Responses API-n, az OpenAI Chat Completions API-n és az Amazon Bedrock Converse API-n keresztül működik a bedrock-runtime végponton. Az OpenAI-kompatibilis felületek a végpont /openai/v1 útvonalait használják. A hitelesítés AWS Signature Version 4 segítségével vagy Amazon Bedrock API-kulccsal történhet.
Az AWS útmutatója a jogosultságok beállítását, az AWS Identity and Access Management szerepköreit és felhasználóit, valamint a szervezeti szolgáltatási vezérlő házirendeket is részletezi. A bemutatott példák Python 3.9-es vagy újabb környezetre épülnek, és az openai, a boto3, valamint az aws-bedrock-token-generator csomagokat használják. A dokumentáció a kvótanövelést, a forrásrégióban elérhető megfigyelési jeleket és a használat utáni erőforrás-takarítást is bemutatja.
A régiókorlátozásokat alkalmazó szervezeteknek külön meg kell győződniük arról, hogy a kiválasztott profil valamennyi célrégiója engedélyezett. Ez különösen fontos olyan környezetekben, ahol az adatok földrajzi kezelését belső vagy szabályozási előírások határozzák meg.
