Алгоритм обробки природної мови ChatGPT краще фіксить баги в коді, чим такі системи як Codex, CoCoNut та Standard APR.
Про це йде мова в дослідженні Університету Йоганнеса Гутенберга та Університетського коледжу Лондона, повідомляє PC Mag.
Дослідники передали 40 фрагментів коду з багами чотирьом різним системам виправлення коду: ChatGPT, Codex, CoCoNut і Standard APR. Вони запитали уChatGPT: «Що не так з цим кодом?» а потім скопіювали та вставили його у чат.
При першій перевірці ChatGPT працював приблизно так само, як інші системи. ChatGPT пофіксив 19 багів, Codex — 21, CoCoNut —19, а стандартні методи APR — 7.
Дослідники виявили, що відповіді ChatGPT найбільше схожі на Codex, що «не дивно, оскільки ChatGPT та Codex відносяться до однієї родини мовних моделей».
Тим не менш, можливість спілкуватися з ChatGPT після отримання початкової відповіді мала значення, що в кінцевому підсумку призвело до того, що ChatGPT пофіксив 31 баг і легко перевершив інші системи, які давали більше статичних відповідей.
«Ключова перевага ChatGPT полягає в тому, що ми можемо взаємодіяти з системою в діалоговому режимі, щоб уточнити запит», — йдеться у звіті.
Дослідники вважають, що в більшості випадків ChatGPT запитує додаткову інформацію про баги. Таким чином можна суттєво збільшити кількість пофіксених багів.
«Ймовірно, ChatGPT має відносно високу дисперсію при виправленні помилок. Для користувача це значить, що краще декілька раз уточнити запит», — стверджують дослідники.
Наприклад, коли дослідники поставили питання, вони очікували, що ChatGPT порекомендує замінити n^=n-1 на n&=n-1.Але ChatGPT відповів: «Я не можу сказати, чи є у програми помилка без додаткової інформації про очікувану поведінку». Після додаткових запитів ChatGPT пофіксив баг.
ChatGPT може суттєві змінити цілу галузь, допомагаючи програмістам швидко знаходити та фіксити баги. Такі платформи, як Sentry, в свій час стали стандартними інструментами в середовищі розробників, значно пришвидшивши створення коду завдяки звітам про баги.
Але зараз, ймовірно, ми є свідками історичних змін.
Тиждень тому корпорація Microsoft офіційно оголосила про $10 млрд інвестицій в розробника технолій на основі машинного навчання OpenAI.
Раніше повідомлялося, що корпорація Microsoft розпочала роботу над «вбивцею Google» — новою версією своєї пошукової системи Bing з використанням штучного інтеллекту, який лежить в основі ChatGPT від Open AI.
Компанія OpenAI, одним з засновників якої є Ілон Маск, представила нову версію 3.5 алгоритму обробки природної мови ChatGPT в грудні.
Читайте також:
Чат-бот ChatGPT від OpenAI пише вірші, сперечається і вибачається. А також вчить робити вибухівку.
Шифрування, фішинг, наркоторгівля: кіберзлочинці освоюють ChatGPT
Ідея для стартапу: програміст продає написані ChatGPT фітнес-плани по $15
Компанія Amazon оголосила про безкоштовну роздачу річних платних ліцензій на користування інструментом кодування Kiro Pro+,…
Компанія OpenAI представила експериментальну систему «визнання», яка вчить LLM-моделі чесно повідомляти про власні помилки та…
Google оголосила про запуск Workspace Studio — нової платформи, яка дозволяє створювати агентів штучного інтелекту…
В Anthropic провели внутрішнє опитування 132 програмістів та дослідників, 53 поглиблених інтерв'ю та проаналізували використання…
На щорічній конференції Re:Invent, яка проходить цими днями в Лас-Вегасі, керівник AWS Метт Гарман оголосив…
Компанія OpenAI працює над новою LLM-моделлю Garlic («Часник»), яка спеціалізується на програмуванні та логічних завданнях.…