Як генеративний штучний інтелект змінив науковий світ? Вчені-халтурщики використовують GPT?

Рет қаралды 11,707

Күн бұрын

Донейт на ЗСУ: savelife.in.ua/DONATE/
Станьте спонсором цього каналу, щоб отримувати бонуси:
/ @scienceuaofficial
Telegram ScienceUA: t.me/scienceuaofficial
Instagram: / pashapalinichak
Facebook: / ppalinichak
Допомогти розвитку каналу: 5168745022307687
Buymeacoffee: www.buymeacoffee.com/scienceua
Список використаних джерел:
1. ChatGPT one year on: who is using it, how and why? (nature.com) - www.nature.com/articles/d4158...
2. How ChatGPT and other AI tools could disrupt scientific publishing (nature.com) - www.nature.com/articles/d4158...
3. RETRACTED: Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway - www.frontiersin.org/articles/...
4. AI and science: what 1,600 researchers think - www.nature.com/articles/d4158...
5. Foresight: Use and impact of Artificial Intelligence in the scientific process - erc.europa.eu/sites/default/f...
6. Current position of the ERC Scientific Council on Artificial Intelligence - erc.europa.eu/news-events/new...
7. Tools such as ChatGPT threaten transparent science; here are our ground rules for their use - www.nature.com/articles/d4158...
8. Policy on Use of Generative Artificial Intelligence in the ARC’s grants programs - www.arc.gov.au/sites/default/...
9. The Use of Generative Artificial Intelligence Technologies is Prohibited for the NIH Peer Review Process - grants.nih.gov/grants/guide/n...
10. Nature Portfolio. Peer Review - www.nature.com/nature-portfol...
Таймкоди:
00:00 - Вступ. Кричущі ляпи.
01:08 - Останні події. Поява загальнодоступних LLM
02:46 - Як часто вчені користуються LLM
04:27 - Які переваги для дослідників?
06:00 - Недоліки використання мовних моделей
09:08 - Ставлення видавництв до використання LLM
10:51 - Інше застосування GPT. Для чого він годиться?
12:30 - Маленький секрет ScienceUA
13:08 - Оновлення політики KZfaq

Пікірлер: 100

@Vic-Ukraine 2 ай бұрын

Думаю, що ви правильно робите, що підвищуєте свою ефективність з ШІ. Вірю, що і надалі будете відповідальні й обережні в цьому

@ScienceUAofficial 2 ай бұрын

Дякуємо! Звичайно ми постараємося максимально добримуватися етичних норм використання LLM.

@user-my2hc5qp1b 2 ай бұрын

Як завжди все цікаво та корисно знати Хай квітне Український ютуб ❤❤❤❤

@obessa67 2 ай бұрын

Такий незвичайний світ нас оточує і захоплює. Подяка автору.

@user-yp7qu7dw7q 2 ай бұрын

Підняте питання дуже актуане, цікаво шляхи вирішення.

@ScienceUAofficial 2 ай бұрын

Для відповіді доведеться робити ціле нове відео. Але загалом шлях вирішення прозвучав - змінити парадигму і переорієнтуватися з кількості на якість.

@user-nj3gh3hk4q 2 ай бұрын

Дякую за відео! Повністю погоджуюсь з авторами каналу. Щодо світової системи публікації наукових статей. На мою думку, дійсно краще щоб науковці більше зосереджувалися на якості досліджень ніж на їх кількості. Мав досвід написання деякої документації для оформлення нової компанії (в тому числі і статуту фірми). За допомогою ШІ робота зайняла приблизно пів дня, замість тижня. При чому ШІ зробив все миттєво, більшу частину часу я просто редагував текст. Тому для роботи з бюрократією дуже зручно.

@ScienceUAofficial 2 ай бұрын

Для цього треба змінити систему винагороди. В українських реаліях цим почав займатися Фонд Національних Досліджень, що перед тим як давати грант на держзамовлення звертає увагу на реальний індекс Хірша за скопувськими публікаціями, а не на надуті "хірши" публікаціями в укр-журналах, що індексуються виключно в Україні і опублікувати там можна ледь не будь-що.

@Vic-Ukraine 2 ай бұрын

Виконання всього що підвищує ефективність - правильно, але в кожного інструменту є межі де його використання доцільне. Важливо повсякчас про це пам'ятати.

@PaulRivne 2 ай бұрын

Дякуємо Збройним Силам України за захист від окупантів!

@andreydanilchuk8343 2 ай бұрын

З повагою та найкращими побажаннями до вас колего

@user-uh1rb5vg8w 2 ай бұрын

Зараз навчаюся і постійно спостерігаю, як люди використовують ШІ для нарисання робіт різного рівня. І це буквально треш. Якийсь постер через нього зробити можна не складну тему, а от написати хорошу доповідь чи мале якесь дослідження типу курсову абсолютно не реально. Вбиває лише те, що це абсолютно нікого не зупиняє. Дебільність семінарів та доповідей вийшла на новий рівень. Десь щотижня доходить до того, що хтось розповідає, а інші тупо ржуть з тої шизи, яку йому написав ші, а він не вичитав. А якість роботи загалом це окрема тема. Ви вважаєте це конспіроогічною теорією, як я бачу, але це тупо факт, що чат гпт зацензурували. В грудні 2022 він спокійно викорнував більшість завдань, а зараз ти щоразу впираєшся в стіну цензури. "Я лише бот, я не буду цього робити" або взаглі блокає розмову за порушення принципів без причини. Логіка і послідовність в діалозі взагалі зникла. Будь-які завдання забуває вже за кілька фраз.

@ScienceUAofficial 2 ай бұрын

Нууу, цензура загалом є, інколи брєдова, але щоб четвертий прямо відмовлявся щось звичне робити - такого не зустрічав. А на рахунок забування інструкцій - це його робота як регресивної моделі, необхідно його довчати.

@Volodymyr_GlaVy 2 ай бұрын

Дуже, надзвичайно цікава історія з дісером у Південно-Східній Азії. Тамтешня культура поваги до старших, і не тільки за віком, а й за вагою у суспільстві, змусила місцевих вчених пропустити відвертий фейк. І тепер питання: а чого тоді взагалі варта та їх наукова діяльність? Жевріє й відповідь на інше, чому так хирляво представлена наука Китаю у світовому вимірі, мізерно, як на таку могутню державу?

@Vic-Ukraine 2 ай бұрын

Я використовую ШІ для створення ілюстрацій для моїх презентацій, але це щось просте типу на слайд з планом де написано що перерва на каву о 12:00 - українка перед ноутом з кавою - нічого, що може ввести в оману

@ScienceUAofficial 2 ай бұрын

У Вас найраціональніший підхід - використовувати інструмент для тих завдань, для яких його придумали. І саме з такими примітивними задачами він швидко і успішно справляється. Успіхів!)

@user-ze2mh4gw7h 2 ай бұрын

Доволі цікаве та актуальне відео. Які способи або засоби можете порадити для викриття штучного інтелекту?

@ScienceUAofficial 2 ай бұрын

В першу чергу читати і розуміти, що написано. Якщо у Вас буде натренований зір на статтях, що були написані до релізу LLM з вільним доступом (до 2022-го десь), то ви відчуєте різницю. + Ілюстрації, з ними простіше: DALLE не знає про існування фізики чи про існування письма. Дуже комічно наприклад те, що хоч GPT знає як імітувати мовлення, він не знає як виглядають літери, бо в ньому нема абстрактного мислення. Ви помітите порушення законів фізики або логіки в підписах. А якщо навіть в ілюстраціях сильні проколи - не варто і розраховувати на те, що письмо в документі буде якісніше.

@putinisakiller8093 2 ай бұрын

@@ScienceUAofficial Але із часом воно навчиться і цього. :)

@dasha.ivanova 2 ай бұрын

Дуже цікава інформація подана у відео! Дякую за вашу працю! 🔥🔥🔥

@andreberezovskiy 2 ай бұрын

Дякую Вам за як завжди дужже файне, цікавенне, корисне та пізнавальне відео!!!

@user-uc1qn4ld8n Ай бұрын

Ооо, дякую за такий канал и відео на український мові 💙💛

@user-ye5xd3dr5d 2 ай бұрын

ШІ це новий інструмент, і як і все нове буде використовуватись скрізь, поки не знайде собі місця. Я пам'ятаю, коли писав диплом, була вимога писати від руки. Так, 21 століття, а я по "зебрі" друкованими літерами пишу диплом. Чому? А щоб не копіювали одне в одного, така була логіка ВНЗ. Гадаю, ШІ можна використовувати будь де, головне, що за це має відповідати людина. Власне, яке кому діло, хто робив опис дослідження? Я, мої асистенти чи ШІ? Відповідаю що це я. І так, за всі "косяки" також, без огляду на ШІ. Моя робота - моя відповідальність. А далі, далі буде еволюція, щось відпаде, щось наросте. У цікаві часи ми живемо.

@ThreeStihii 2 ай бұрын

Недавно писали няні рекомендацію за допомогою чат джіпіті. Бо не зразу знайшли слова зоб описати її роботу з дитиною ) П.С. Роботою і няні і аі-помічника задоволені.

@UserUser-kz4fq 2 ай бұрын

Якщо в заголовку чітко вказано "згенеровано штучним інтелектом", то най буде, але якщо це видається ніби людина це зробила, то тоді це погано й неправильно.

@andriisukhariev 2 ай бұрын

дякую. топ

@Prost0leg 2 ай бұрын

Щиро Вам Дякую за Вашу якісну роботу. ✌️❤️🇺🇦

@algol36 2 ай бұрын

Ви звертаєте увагу на те, що ШІ робить граматичні і лексичні помилки. Але ж головна проблема не розкрита - тексти ШІ не мають жодної наукової цінності. Він генерує просто компіляцію з текстів пошукових систем. По факту - просто продвинута версія гуглу. Він корисний тільки для найпростіших поясненнь чи задач. Задачи трохи вищі за шкільний рівень - він видає або маячню, або просто не може відповісти на питання, видаючи банальні тексти в стилі "ваш КО". Про наукові проблеми мови взагалі не йде.

@ScienceUAofficial 2 ай бұрын

Але значна частина наукових робіт і є перехресним аналізом чи компіляцією попередніх досліджень. В цьому і суть. Окрім того змоделюємо ситуацію: у Вас отримані нові експериментальні дані, Вам потрібно їх описати. Теоретично ви можете "згодувати" ЖПТ свої дані, щоб він їх описав і порівняв із існуючими. Те, що при цьому він допустить помилки - це ймовірно, але завдання він виконає.

@algol36 2 ай бұрын

@@ScienceUAofficial Ну добре, ШІ це інструмент, і він звичайно має деяку область застосування. Це нормально. Але справжня проблема в тому, що він буде використовуватись не протсто для аналізу даніх, а я для генарціі тах самих даних (або теорій, або пояснень і так далі). І тоді ми замість науки отримаємо потік маячні (насправді, є відчуття що воно вже давно так і є, і навіть без ШІ). От цікаво, що писав автор тієї статті за пацюком? Це теж був аналіз експерементальних даних? Будемо відвертими, знайдеться багато "британських вчених" які просто будуть штампувати статті, *повністю* сгенерованих ШІ, я які можуть замінити справжню науку. І це головна проблема.

@ScienceUAofficial 2 ай бұрын

@algol36 замінити вони науку не зможуть, але розмити - вже це відбувається. Тому це відео і з'явилося. На рахунок пацюка, навряд вони навіть спробують тепер опублікувати своє" дослідження ", бо тавро вже стоїть і якщо десь вони зробили "мілкі помилки" їх манускрипт завернуть.

@user-uh1rb5vg8w 2 ай бұрын

Те, що ви написали - функціонал жеміні або барду (і то не зовсім). Чат гпт той же працює більш глибоко та адекватно.

@algol36 2 ай бұрын

@@user-uh1rb5vg8w Ні, я маю на увазі саме ChatGPT 3.5 з яким я іноді працюю. Моє особисте враження - він туповатий. Але питання зовсім не в цьому. Навіть якщо чатботи стануть на порядки розумнішими, ви вважаете що тоді вони можуть писати наукові статті? Зверніть увагу, чатботи - це не інтелект, це імітація інтелекту. І навіть точніше - імітація розумного тексту. Якщо ви почитаєте як працює gpt, то зрозуміло, що це просто прогностична модель, яка в буквальному сенсі прогнозує верогідність наступного слова в реченні. Так, модель величезна, так, там є деякі спеціфічні механізми. Але це навіть близько не інетелект. Там його просто немає. І тепер уявимо недалеке майбутнє. Ви заходите на вікіпедію - там статті сгенеровані ботом. Дивитесь підручник - він згенерованим ботом. Відкриваєте новини - вони всі сгенеровані ботом (разом з картинками і відео). В якись момент ми просто перестанемо відрізняти реальність від сгенерованого світу, який є просто видуманою імітаціею. Ось це проблема. І вона, здаєьться, невідворотня.

@NeutrinoForever 2 ай бұрын

У ші досі є проблеми з числами та величинами.

@olegmakarikhin 2 ай бұрын

Тому що language-інструмент, для чисел є інші, від калькуляторів, sage, до wolfram alpha

@putinisakiller8093 2 ай бұрын

А з чим не має проблем? :)

@OlegSwan 2 ай бұрын

Жевріє надія, що людство хочаб ШІ встигне залишити до самознищення.

@master_sergik 2 ай бұрын

6:26 тут і в більшості людей буде погано з логікою) 😅

@TopTrandLife 2 ай бұрын

Мені подобається наочна демонстрація помилок😊

@EugenyKiselyov 2 ай бұрын

Наука давно стала ремеслом, а не ходженням туди, що важко пояснити сучасними теоріями. Тому це є проявом кризи науки. Тобто проявом реальної її суті зараз.

@chelol208 2 ай бұрын

Найважливіше зробити відео як штучний інтелект використовуют для генерації або опрацювання теорій або технологій. Чи взагалі таким займаються вчені? І де хоча б одне відео про це?

@ScienceUAofficial 2 ай бұрын

Для опрацювання нових теорій і технологій жпт не використовується - це неможливо. Він може тільки переписувати по аналогії, але не писати. В україномовному сегменті толкового відео по темі нема, тому взагалі вийшло це.

@Aleks_Apanfil 2 ай бұрын

👍👍👍

@user-mv2xz7hq3h 2 ай бұрын

Цікаво, актуально

@tarasdemchuk9759 2 ай бұрын

Хвилинка душніли: Не випАдок, а вИпадок. Не девЕсти, а довестИ (це стосується і всіх решта слів по типу: везти, нести, та їх похідних)

@VyvirkaSira Ай бұрын

Додам ще: рукОпис, а не рУкопис.

@user-lj1hf3ek2z 2 ай бұрын

Може потрібно зробити щоб ші архівував всі свої відповіді, після чого можна буде легко порівняти текст з базою відповідей ші.???

@vitalikdobudenb 2 ай бұрын

Чим більше ми покладатимемось на штучний інтелект тим швидше він перевершить наш

@user-nh1ge5fh3d 2 ай бұрын

Оминайте вас ракети 🤗

@lanas2934 Ай бұрын

Цей чат змінить світ до нівпізнаваності. Буде розділення, до чату і після, як нова ера, це лише початок

@mylittledrone 2 ай бұрын

Що таке текст? Спосіб передачі інформації. Яким саме чином буде написаний текст - за допомогою руки і ручки на папері, олівцем на асфальті, викладений деревами SOS на безлюдному острові, чи згенерований за допомогою llm моделі - це не має значення, якщо інформація дійшла до свого адреса у тому виді у якому планувалось.

@ScienceUAofficial 2 ай бұрын

Має! Чат-бот тексту не бачить взагалі, він токени складає, а вже вони декодуються в тексто-подібну інформацію))

@mylittledrone 2 ай бұрын

@@ScienceUAofficial якщо адресат отримав інформацію котра була написана не на листочку ручкою, а за допомогою llm моделі, то яка різниця адресату? *написано на листочку ручкою* Почалась війна. *написано llm моделлю* Почалась війна. То ж яка різниця для отримувача яким саме чином була написана інформація і чи розуміє ту інформацію той хто її написав

@ScienceUAofficial 2 ай бұрын

Йому різниця в тому, що інформація прибуде в спотвореному вигляді. Жпт не цитує, він генерує за аналогією "щось схоже".

@ScienceUAofficial 2 ай бұрын

Ми ж не спілкуємося двома словами.

@mylittledrone 2 ай бұрын

@@ScienceUAofficial поміть, у першому повідомленні я написав що інформацію отримають у тому вигляді, яки задовольняє відправника. Тобто відправник згенерував, прочитав, йому сподобалось і він відправив це отримувачу. Яка різниця яким чином написана та інформація, якщо відправник її заакцептив?

@DennisApanasenko 2 ай бұрын

дати правильний запит для ші теж треба вміти

@user-wx8te6ew8v Ай бұрын

гадаю від такого діалогу едвін габбл би здурів)

@19chief53 2 ай бұрын

👍🇺🇦🇺🇦🇺🇦🇺🇦

@olenaa7026 2 ай бұрын

Класний канал. Але наче чогось не вистачає. Динаміки може. Може забагато термінів. Втрачається увага швидко(

@ScienceUAofficial 2 ай бұрын

Над динамічністю працюємо, а от на рахунок уваги це лише частково від авторів залежить 😏 В будь-якому разі не все одразу)

@user-rt4im8us7e 2 ай бұрын

Штучний інтелект змусить людину перестати думати взагалі.

@nazarv1693 2 ай бұрын

Люди як завжди: Казали вирішують біологічні проблеми, створили біологічну зброю. Казали технології покращать життя, це зробило війни більш масштабні. Казали ШІ допоможе нам, а получився ще спосіб обману один одного. Тепер ідіотів стане ще більше, а їх можливості ще небезпечніші.

@ScienceUAofficial 2 ай бұрын

Все так) Нові знання - нова загроза і можливості. Це давня тенденція, але просто зупинити маховик теж не вихід.

@nazarv1693 2 ай бұрын

І цей маховик називається "людина". ШІ це його оберт в подорожі кудись. ШІ насправді підвищують ціну здібних людей, бо знайти когось хто зробить свою роботу не по шаблону, буде значно дорожче.

@XFtechnology 2 ай бұрын

Хто не знав але Україна привернула увагу до OpenAI

@user-jv7us6zr3f 2 ай бұрын

Спершу ШІ мав деякі запрограмовані упередження що до астрофізики, але практичні задачі нижчого рівня розв'язував доки не входив до упередженнь. Згодом йому і ті задачі заборонили розв'язувати через загрозу "загальноприйняті маячні" тому, як "науковець" - він ГМО забите антинауковими протоколами.

@ScienceUAofficial 2 ай бұрын

Вже уявляю перелік заборон LLM: расизм, сексизм, ейджизм, тощо і в кінці переліку "Відкривати правду про відсутність великого вибуху" Не здається, що це чергова маячня з вашого боку?

@user-jv7us6zr3f 2 ай бұрын

@@ScienceUAofficial це колективна маячня з вашого боку. Абсолютна відсутність критичної думки і відсутня здатність до елементарних розрахунків, тільки колгоспний крик з впевненістю, що такі самі підтримають криком. Якщо ніц не розумієте в фізиці - то навіщо коментуєте той напрямок?

@ScienceUAofficial 2 ай бұрын

Важко говорити про "колективну маячню", якщо людей, що володіють знаннями про наукові парадигми по відношенню до населення Землі абсолютна меншість. Вам так не здається?) Як нам впевнитися, що Ви долучені до кола людей, що "розумієте в фізиці"?

@user-jv7us6zr3f 2 ай бұрын

@@ScienceUAofficialще про кількість релігійних людей не забудьте згадати, до яких належать офіційні недонауковці. А, те, хто з нас розбирається у фізиці - легко вирішується розв'язанням першої реальної задачі з фізики.

@ScienceUAofficial 2 ай бұрын

У Вас є приклад "реальної" задачі, яку Ви розв'язали, а "недонауковці" не змогли?

@lestom100 2 ай бұрын

4:00 про літературу - це жах.

@AC001 2 ай бұрын

Сучасний ШІ, нажаль, це програма з імітацією інтелекту.

@ScienceUAofficial 2 ай бұрын

Цього ніхто не приховує

@user-nh1oj1mt4o 2 ай бұрын

Задача жпт - генерировать слова. Честно сказано - языковая модель. И он прекрасно генерирует слова! Но какую же охинею по сути выдумывает!.. Неиссякаемый источник альтернативных вселенных.

@user-nh1oj1mt4o 2 ай бұрын

Вибачайте за коментар вище. Мій кишеньковий ШІ не тією мовою патякає. Більше не дозволю йому вештатись рунетом.

@ScienceUAofficial 2 ай бұрын

😁