Apple zverejnil technickú správu, ktorá podrobne opisuje, ako boli jeho modely umelej trénované, optimalizované a vyhodnotené. AI model má zhruba 3 miliardy parametrov a je rozdelený do 2 blokov. „Blok 1 obsahuje 62,5 % z celkového počtu vrstiev transformátora, zatiaľ čo blok 2 obsahuje zvyšných 37,5 % vrstiev transformátora, ale boli z neho odstránené projekcie kľúčov a hodnôt,“ uvádza Apple.