Генеральний директор OpenAI Сем Альтман розкриває дивовижний факт: надмірно ввічливе використання ChatGPT світовим користувачем щороку обходиться гіганту штучного інтелекту на мільйони доларів дорожче через непомітно збільшені обчислювальні витрати. (Синопсис: OpenAI випускає o3 і o4-mini Найсильніша модель висновків: може думати про картинки, автоматично вибирати інструменти та пробиватися через продуктивність математики та кодування) (Довідкове доповнення: OpenAI таємно створює власну платформу спільноти, вказуючи на X Маска) У сфері штучного інтелекту ефективність і контроль витрат є вічними темами, і Сем Альтман, генеральний директор OpenAI, нещодавно вказав на несподіване джерело витрат у публічній розмові - Ввічлива мова від користувача. Альтман розповів, що коли багато користувачів використовують ChatGPT, вони зазвичай додають "будь ласка", "дякую", "будь ласка, допоможіть мені... Чи так це?» А інші ввічливі слова, хоча і мають значення в міжособистісних відносинах, є додатковими обчислювальними витратами для мовних моделей. Ціна людської ввічливості Альтман згадав у дописі, що відповідь на ці ввічливі слова коштує десятки мільйонів доларів, і зрозуміло, що великі мовні моделі, такі як ChatGPT, обробляють підказки для введення даних, розбиваючи текст на найменші одиниці, які називаються токенами для розуміння та генерації. Лексема може бути частиною слова, цілого слова або розділового знака. Чим довший запит користувача, тим більше токенів включено, і модель повинна споживати певну кількість обчислювальних ресурсів для обробки кожного токена, що може становити лише невелику частину загальних накладних витрат OpenAI (включаючи навчання моделі, обслуговування серверів, інвестиції в дослідження та розробки тощо), але це показує, що навіть невеликі моделі поведінки користувачів можуть мати значний економічний вплив у великомасштабних програмах штучного інтелекту. Токени Енергетична економіка Коли користувач вводить запитання чи інструкцію в ChatGPT, система спочатку розбиває ваш текст на послідовності токенів, наприклад «Будь ласка, скажіть мені, яка сьогодні погода?». Можна розбити на такі речі, як [«будь ласка», «розкажіть», «мені», «сьогодні», «погода», «як», «?? ] такий жетон. І більш лаконічна команда «Сьогоднішня погода?» Його можна розбити лише на ["сьогодні", "погода", "?" ], що означає одне й те саме, і може споживати додаткові витрати залежно від числа етимології. Потім модель виконує фазу «Виведення» на основі кількості етимології, зазвичай чим більше токенів введено, тим більше початкової інформації моделі потрібно обробити, а довші вхідні дані іноді можуть призвести до довших відповідей, ще більше збільшуючи обсяг обчислень на виході. Для обробки кожного токена потрібен потужний графічний процесор для матричних операцій. Однак багато користувачів відреагували на зауваження Ультрамена, на додаток до проблеми вартості, люди фактично проектують потребу у ввічливості на слова на штучний інтелект, що може бути причиною того, що здатність ChatGPT вести діалог дуже плавна та природна, що дозволяє користувачам підсвідомо сприймати його як співрозмовника, схожого на людину. Обидві людини мають глибоко вкорінені норми, такі як спілкування в суспільстві, і це також є додатковою ціною для людей відмова від цих норм через машини, а також можуть несвідомо слідувати цим нормам, а більш ввічливі методи опитування можуть допомогти отримати більш дружні або кооперативні відповіді, які, в свою чергу, можуть досягти мети відповіді, яка приносить більше задоволення людям. Загалом, цікаво поговорити про те, що ChatGPT додає мільйони доларів витрат через ввічливість користувачів з точки зору Альтмана, розкриваючи не лише приголомшливі обчислювальні витрати, що стоять за великомасштабними послугами штучного інтелекту, але й тиск на постачальників послуг щодо надання обчислювальних потужностей. І попит користувачів також підштовхнув моделі до більш природних результатів, і в цілому в епоху штучного інтелекту та мовних моделей споживачі можуть стати найбільшими переможцями. Пов'язані історії GPT-5 відкладено! OpenAI вперше штовхає o3, o4-mini, Сем Альтман розповів: інтеграція складніша, ніж уявлялося OpenAI анонсувала: Open Agents SDK підтримує MCP, підключайте все і робіть ключовий крок OpenAI розблоковує глибоке дослідження: платні користувачі можуть запитувати 10 разів на місяць, Microsoft випускає мультимодального агента штучного інтелекту Magma (Сем Альтман: OpenAI витрачає десятки мільйонів доларів у відповідь користувачам ChatGPT «Будь ласка, Спасибі" на слово〉Ця стаття була вперше опублікована в журналі BlockTempo "Динамічний тренд - найвпливовіше новинне медіа блокчейну".
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Сем Алтман: OpenAI витрачає десятки мільйонів доларів на реагування на слова "будь ласка, дякую" користувачів ChatGPT
Генеральний директор OpenAI Сем Альтман розкриває дивовижний факт: надмірно ввічливе використання ChatGPT світовим користувачем щороку обходиться гіганту штучного інтелекту на мільйони доларів дорожче через непомітно збільшені обчислювальні витрати. (Синопсис: OpenAI випускає o3 і o4-mini Найсильніша модель висновків: може думати про картинки, автоматично вибирати інструменти та пробиватися через продуктивність математики та кодування) (Довідкове доповнення: OpenAI таємно створює власну платформу спільноти, вказуючи на X Маска) У сфері штучного інтелекту ефективність і контроль витрат є вічними темами, і Сем Альтман, генеральний директор OpenAI, нещодавно вказав на несподіване джерело витрат у публічній розмові - Ввічлива мова від користувача. Альтман розповів, що коли багато користувачів використовують ChatGPT, вони зазвичай додають "будь ласка", "дякую", "будь ласка, допоможіть мені... Чи так це?» А інші ввічливі слова, хоча і мають значення в міжособистісних відносинах, є додатковими обчислювальними витратами для мовних моделей. Ціна людської ввічливості Альтман згадав у дописі, що відповідь на ці ввічливі слова коштує десятки мільйонів доларів, і зрозуміло, що великі мовні моделі, такі як ChatGPT, обробляють підказки для введення даних, розбиваючи текст на найменші одиниці, які називаються токенами для розуміння та генерації. Лексема може бути частиною слова, цілого слова або розділового знака. Чим довший запит користувача, тим більше токенів включено, і модель повинна споживати певну кількість обчислювальних ресурсів для обробки кожного токена, що може становити лише невелику частину загальних накладних витрат OpenAI (включаючи навчання моделі, обслуговування серверів, інвестиції в дослідження та розробки тощо), але це показує, що навіть невеликі моделі поведінки користувачів можуть мати значний економічний вплив у великомасштабних програмах штучного інтелекту. Токени Енергетична економіка Коли користувач вводить запитання чи інструкцію в ChatGPT, система спочатку розбиває ваш текст на послідовності токенів, наприклад «Будь ласка, скажіть мені, яка сьогодні погода?». Можна розбити на такі речі, як [«будь ласка», «розкажіть», «мені», «сьогодні», «погода», «як», «?? ] такий жетон. І більш лаконічна команда «Сьогоднішня погода?» Його можна розбити лише на ["сьогодні", "погода", "?" ], що означає одне й те саме, і може споживати додаткові витрати залежно від числа етимології. Потім модель виконує фазу «Виведення» на основі кількості етимології, зазвичай чим більше токенів введено, тим більше початкової інформації моделі потрібно обробити, а довші вхідні дані іноді можуть призвести до довших відповідей, ще більше збільшуючи обсяг обчислень на виході. Для обробки кожного токена потрібен потужний графічний процесор для матричних операцій. Однак багато користувачів відреагували на зауваження Ультрамена, на додаток до проблеми вартості, люди фактично проектують потребу у ввічливості на слова на штучний інтелект, що може бути причиною того, що здатність ChatGPT вести діалог дуже плавна та природна, що дозволяє користувачам підсвідомо сприймати його як співрозмовника, схожого на людину. Обидві людини мають глибоко вкорінені норми, такі як спілкування в суспільстві, і це також є додатковою ціною для людей відмова від цих норм через машини, а також можуть несвідомо слідувати цим нормам, а більш ввічливі методи опитування можуть допомогти отримати більш дружні або кооперативні відповіді, які, в свою чергу, можуть досягти мети відповіді, яка приносить більше задоволення людям. Загалом, цікаво поговорити про те, що ChatGPT додає мільйони доларів витрат через ввічливість користувачів з точки зору Альтмана, розкриваючи не лише приголомшливі обчислювальні витрати, що стоять за великомасштабними послугами штучного інтелекту, але й тиск на постачальників послуг щодо надання обчислювальних потужностей. І попит користувачів також підштовхнув моделі до більш природних результатів, і в цілому в епоху штучного інтелекту та мовних моделей споживачі можуть стати найбільшими переможцями. Пов'язані історії GPT-5 відкладено! OpenAI вперше штовхає o3, o4-mini, Сем Альтман розповів: інтеграція складніша, ніж уявлялося OpenAI анонсувала: Open Agents SDK підтримує MCP, підключайте все і робіть ключовий крок OpenAI розблоковує глибоке дослідження: платні користувачі можуть запитувати 10 разів на місяць, Microsoft випускає мультимодального агента штучного інтелекту Magma (Сем Альтман: OpenAI витрачає десятки мільйонів доларів у відповідь користувачам ChatGPT «Будь ласка, Спасибі" на слово〉Ця стаття була вперше опублікована в журналі BlockTempo "Динамічний тренд - найвпливовіше новинне медіа блокчейну".