ai-assistants

Больше памяти — не значит быстрее: prefill, decode и релиз Apple M5 Ultra

Мы пришли за инференсом? “RTX PRO 6000 обгонит новый Mac Studio почти во всём, кажется что пропускная способность памяти - единственное, где Apple конкурентоспособна”, но мне кажется для собственного использования - однозначно рассматривать!