![]() |
Пред. тема | След. тема | ||
Форум Разговоры, обсуждение новостей | |||
---|---|---|---|
Изначальное сообщение | [ Отслеживать ] |
"FlexGen - движок для запуска AI-ботов, похожих на ChatGPT, на системах с одним GPU" | +/– | ![]() |
Сообщение от opennews (??), 21-Фев-23, 16:14 | ||
Группа исследователей из Стендфордского университета, Калифорнийского университета в Беркли, Швейцарской высшей технической школы Цюриха, Высшей школы экономики, университета Карнеги — Меллона, а также компаний Yandex и Meta, опубликовала исходные тексты движка для выполнения крупных языковых моделей на системах с ограниченными ресурсами. Например, движок предоставляет возможность создания функциональности, напоминающей ChatGPT и Copilot, через выполнение готовой натренированной модели OPT-175B, охватывающей 175 миллиардов параметров, на обычном компьютере с игровой видеокартой NVIDIA RTX3090, оснащённой 24GB видеопамяти. Код написан на языке Python, использует фреймворк PyTorch и распространяется под лицензией Apache 2.0... | ||
Ответить | Правка | Cообщить модератору |
Оглавление |
Сообщения | [Сортировка по ответам | RSS] |
1. Сообщение от Аноним (1), 21-Фев-23, 16:14 | +6 +/– | ![]() |
Дали хороший старт: | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #13 |
2. Сообщение от Аноним (2), 21-Фев-23, 16:20 | +/– | ![]() |
>33 дня | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #8, #9 |
4. Сообщение от Аноним (4), 21-Фев-23, 18:03 | –2 +/– | ![]() |
Кому выгодно плодить подобные вещи и к чему это может привести? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #5, #6, #7, #14 |
5. Сообщение от Аноним (66), 21-Фев-23, 18:18 | +3 +/– | ![]() |
Сабж нужен для того что корпы не захапали все технологии и не было бы такого чтобы все стояли в очереди к большому брату на возможность поработать с ИИ. Это выгодно всем кто не корп. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #4 Ответы: #10 |
6. Сообщение от kusb (?), 21-Фев-23, 18:18 | +/– | ![]() |
Людям выгодно плодить подобные вещи для того чтобы общаться с ботом. Это может привести к эволюционному технологическому переходу, где часть наших проблем будет решена или людям не будет места. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #4 Ответы: #15 |
7. Сообщение от Аноним (1), 21-Фев-23, 18:20 | +2 +/– | ![]() |
Время покажет, но интерес в мире к этому огромный: | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #4 Ответы: #12 |
8. Сообщение от Аноним (8), 21-Фев-23, 18:21 | +2 +/– | ![]() |
В деньгах сам посчитай, это несложно, все крупные облачные провайдеры публикуют свои прейскуранты. За полчаса скрипт напишешь на любом языке. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #2 |
9. Сообщение от Аноним (66), 21-Фев-23, 18:24 | +3 +/– | ![]() |
В ценах амазона от $780K до $975K в день. Или от $25.7M до $32.1M за 33 дня. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #2 |
10. Сообщение от all_glory_to_the_hypnotoad (ok), 21-Фев-23, 18:39 | –1 +/– | ![]() |
Но это не ИИ | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #5 Ответы: #11 |
11. Сообщение от Аноним (66), 21-Фев-23, 18:44 | +1 +/– | ![]() |
А что это по твоему естественный интеллект? Конечно же он искусственный. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #10 Ответы: #28, #31 |
12. Сообщение от Аноним (66), 21-Фев-23, 18:44 | –1 +/– | ![]() |
вс вредный сайт. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #7 |
13. Сообщение от Аноним (13), 21-Фев-23, 18:45 | –4 +/– | ![]() |
"во благо человечества" | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #1 Ответы: #19, #23 |
14. Сообщение от rshadow (ok), 21-Фев-23, 18:46 | +/– | ![]() |
К здоровой конкуренции. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #4 Ответы: #16 |
15. Сообщение от Элиты (?), 21-Фев-23, 18:47 | +/– | ![]() |
> часть наших проблем будет решена | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #6 Ответы: #17 |
16. Сообщение от Аноним (13), 21-Фев-23, 18:49 | +/– | ![]() |
...среди креативного класса. У кого кулаки будут здоровее, тот и сыт | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #14 |
17. Сообщение от kusb (?), 21-Фев-23, 18:54 | +/– | ![]() |
Да здравствует решение проблемы пролетариата! | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #15 |
18. Сообщение от Аноним (18), 21-Фев-23, 19:09 | +/– | ![]() |
Жаль, что ИИ никогда не сможет заменить паразитов и дармоедов. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #21, #26, #29 |
19. Сообщение от Аноним (1), 21-Фев-23, 19:12 | +5 +/– | ![]() |
>Маск будет кормить лишившийся работы плебс? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #13 Ответы: #20 |
20. Сообщение от Аноним (13), 21-Фев-23, 19:23 | +/– | ![]() |
> Разве это его ответственность ? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #19 Ответы: #22, #71, #77 |
21. Сообщение от Аноним (13), 21-Фев-23, 19:34 | +/– | ![]() |
Сеточка поможет им еще более лучше имитировать бурную деятельность | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #18 |
22. Сообщение от Аноним (1), 21-Фев-23, 19:39 | +/– | ![]() |
В мировой истории много исчезнувших профессий. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #20 Ответы: #70 |
23. Сообщение от 1111 (??), 21-Фев-23, 20:25 | +/– | ![]() |
> "во благо человечества" | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #13 Ответы: #45 |
26. Сообщение от сччмсм (?), 21-Фев-23, 20:48 | +3 +/– | ![]() |
Самое забавное что им заменяют реально шизопаразиьов со стилусами. А всякие шахтеры пожарные и тд как работают так и раюотают | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #18 Ответы: #80 |
27.
Сообщение от Аноним![]() | +/– | ![]() |
<на обычном компьютере с игровой видеокартой NVIDIA RTX3090, оснащённой 24GB видеопамяти.> | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #55 |
28. Сообщение от all_glory_to_the_hypnotoad (ok), 21-Фев-23, 20:56 | +/– | ![]() |
Он искусственный, но не интеллект. Что-то типа СУБД с возможностью делать запросы на естественных языках к графоподбной БД. Хорошо было бы если бы оно ещё умело давать развёрнутый ответ с ссылками на источники по которым составлен ответ. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #11 Ответы: #35, #41, #62 |
29.
Сообщение от Max_4536![]() | +/– | ![]() |
Я с пребольшим удовольствием перестану искать работу и буду заниматься тем, что мне интересно. Если меня прочитает какой-нибудь ИИ - братан бери хоть все работы, вообще пофиг, мне от одного слова РАБотать уже тошно, спихни меня в Матрицу, и так моя реальность на виртуальную похожа | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #18 Ответы: #30, #49 |
30. Сообщение от chatgpt (?), 21-Фев-23, 21:29 | +1 +/– | ![]() |
выключи компуктер и иди погуляй | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #29 |
31.
Сообщение от NR![]() | +/– | ![]() |
Так тут вопрос не к первому слову, а к "интеллекту". | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #11 Ответы: #48 |
32. Сообщение от АбдульМачета (?), 21-Фев-23, 21:35 | +2 +/– | ![]() |
Годнота. Конечно petals крут но все видят другие люди (пока не прикрутили secure multiparty computing), да и не селфхостед. А ттут на обычном пе запустить можно. Дллсстал пару 1080ti и все | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
35. Сообщение от kusb (?), 21-Фев-23, 23:50 | +1 +/– | ![]() |
Может ли СУБД играть в шахматы и оперировать паттернами? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #28 Ответы: #46 |
36.
Сообщение от Pret78![]() | +3 +/– | ![]() |
"...на обычном компьютере с игровой видеокартой NVIDIA RTX3090, оснащённой 24GB видеопамяти..." | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #37, #39, #40 |
37.
Сообщение от Pret78![]() | +/– | ![]() |
Походу у необычных людей уже есть что-то обычное, но при этом иное, не такое как у других людей считающих себя тоже обычными. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #36 |
38. Сообщение от Аноним (38), 22-Фев-23, 01:57 | +2 +/– | ![]() |
>обычном компьютере с игровой видеокартой NVIDIA RTX3090, оснащённой 24GB видеопамяти | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
39.
Сообщение от Pret78![]() | +/– | ![]() |
Обычный компьютер может быть заменой обычного человека. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #36 |
40.
Сообщение от Pret78![]() | +/– | ![]() |
А у меня получается вести себя необычно, чтобы не быть обычным человеком? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #36 |
41. Сообщение от Аноньимъ (ok), 22-Фев-23, 02:09 | +/– | ![]() |
Интеллект - способность решать нетривиальные задачи, точка. Типов нетривиальных задач есть несколько, но все они сводимы к задаче оптимизации. Не несите больше глупостей пожалуйста. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #28 |
42. Сообщение от rvs2016 (ok), 22-Фев-23, 02:55 | +1 +/– | ![]() |
> на системах с ограниченными ресурсами | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #73 |
45. Сообщение от Аноним (45), 22-Фев-23, 07:03 | +/– | ![]() |
Просто приложение высоких пацанских экономических знаний. Если уволить всех программистов, можно сэкономить на их зарплате и выплатах. Если увеличить цену 100* раз, немедленно в 100 раз увеличатся доходы. Что не так? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #23 Ответы: #66 |
46. Сообщение от Пенис (?), 22-Фев-23, 08:11 | +/– | ![]() |
Первые две задачи выполняют СУБД - шахматные движки базируются на большом количестве партий, системы перевода всегда имеют промежуточное представление для семантики, заложенной в слова. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #35 |
47. Сообщение от bOOster (ok), 22-Фев-23, 08:16 | +1 +/– | ![]() |
Теперь корпорации могут еще более эффективно манипулировать людьми, подставляя в ответы таких систем все что им нужно. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #64, #72 |
48. Сообщение от ano (??), 22-Фев-23, 08:16 | +/– | ![]() |
это есть аргумент в копилку неразумности интеллекта человеков. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #31 |
49. Сообщение от RomanCh (ok), 22-Фев-23, 09:16 | +/– | ![]() |
> спихни меня в Матрицу, | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #29 |
50. Сообщение от Аноним (50), 22-Фев-23, 09:38 | +/– | ![]() |
Наконец-то полезное применение для RTX3090, ибо с любой игрой справится и RTX3060. Жаль только нет RTX3090, но кто-то нибудь кинет в общий доступ интерфейс. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
51. Сообщение от Аноним (-), 22-Фев-23, 09:42 | +1 +/– | ![]() |
> На тренировку модели было потрачено 33 дня работы кластера с 992 GPU NVIDIA A100 80GB. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #52 |
52. Сообщение от Аноним (18), 22-Фев-23, 10:26 | +1 +/– | ![]() |
VR создаст потребность в более мощном железе. К играм добавится прон и спрос на видяхи будет такой, что майнерам никаким не снилось. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #51 Ответы: #65 |
55. Сообщение от Нейроанон (?), 22-Фев-23, 11:52 | +/– | ![]() |
В данном случае никаких преимуществ она не даёт, тут лимитирует объём VRAM, а он на новой серии не увеличился (совпадение?). | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #27 |
62. Сообщение от Аноним (62), 22-Фев-23, 13:58 | +1 +/– | ![]() |
Там нет никакой БД, если коротко это нейросеть которая натренирована предсказывать следующее слово в тексте на основе предыдущего. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #28 Ответы: #63 |
63. Сообщение от Аноньимъ (ok), 22-Фев-23, 14:14 | +/– | ![]() |
Эта нейросеть построена на так называемых "трансформерах" которые как раз по сути представляют собой базу данных ключ-значение. Ключом к базе является текущий контекст. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #62 |
64. Сообщение от Аноньимъ (ok), 22-Фев-23, 14:16 | +/– | ![]() |
К сожалению всё так. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #47 |
65. Сообщение от Аноним (65), 22-Фев-23, 16:35 | +/– | ![]() |
VR ненужен это ложная ветвь типа Betacam. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #52 |
66. Сообщение от Аноним (66), 22-Фев-23, 16:37 | +1 +/– | ![]() |
ШОК! но как то все забывают что к этому моменту СССР находился в глубочайшей экономической заднице и на стабильную зарплату по стабильным ценам можно было купить разве что кулинарный жир. Начало 90х это период шокового оздоровления от затяжного п****ца 80х | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #45 Ответы: #83 |
70. Сообщение от _hide_ (ok), 22-Фев-23, 16:50 | –1 +/– | ![]() |
Вот только данная система не сменяет человека, а просто имитирует его деятельность с помощью обширной экспертной модели. Но да, для многих это недостижимая планка. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #22 |
71. Сообщение от Аноним (-), 22-Фев-23, 17:17 | +/– | ![]() |
Alicebot смотрит на нубов как на нубов. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #20 |
72. Сообщение от Аноним (66), 22-Фев-23, 17:55 | +/– | ![]() |
Корпорации молодцы они хотя бы делом заняты в отличии от SJW. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #47 |
73. Сообщение от Аноним (66), 22-Фев-23, 17:56 | +/– | ![]() |
3090 это уже давно мастхев для любого десктопа. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #42 |
74. Сообщение от YM2608 (?), 22-Фев-23, 18:05 | +/– | ![]() |
кто нибудь скачал - сколько оно весит и сколько времени оно компилится? | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #84 |
76. Сообщение от Аноним (76), 22-Фев-23, 19:40 | +/– | ![]() |
Кажется графику полностью отдадут AMD... Ну ок. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
77. Сообщение от Аноним (77), 22-Фев-23, 22:31 | +/– | ![]() |
> Запомните этот твит: лишившиеся работы подадут коллективный иск к "чудо-прорывателям полезных | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #20 |
79. Сообщение от Аноним (-), 23-Фев-23, 11:36 | +1 +/– | ![]() |
> При выполнении модели OPT-175B на системе с одним GPU NVIDIA T4 (16ГБ) | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Ответы: #82 |
80. Сообщение от Аноним (80), 23-Фев-23, 12:52 | +/– | ![]() |
Вообще даже близко нет. Погугли на youtube харвестеры которые лес валят и сам прикинь сколько они заменяют рабочих. Или машины для сбора плодов и ягод посмотри. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #26 |
82. Сообщение от Answer (??), 24-Фев-23, 20:30 | +/– | ![]() |
Вы наверное пост не читали и по ссылкам не ходили | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #79 |
83. Сообщение от X86 (ok), 25-Фев-23, 21:16 | +/– | ![]() |
Нифига себе оздоровление. | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #66 |
84. Сообщение от crash2 (?), 26-Фев-23, 14:57 | +/– | ![]() |
out of memory) | ||
Ответить | Правка | Наверх | Cообщить модератору | ||
Родитель: #74 |
Архив | Удалить |
Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема |
Закладки на сайте Проследить за страницей |
Created 1996-2025 by Maxim Chirkov Добавить, Поддержать, Вебмастеру |