The OpenNET Project / Index page

[ новости /+++ | форум | теги | ]



"Проект по производству открытого процессора, совместимого с Z80"
Версия для распечатки Пред. тема | След. тема
Форум Разговоры, обсуждение новостей
Исходное сообщение [ Отслеживать ]
Подсказка: Для сортировки сообщений в нити по дате нажмите "Сортировка по времени, UBB".
. "Проект по производству открытого процессора, совместимого с ..." +/
Сообщение от zyxman (?), 03-Май-24, 02:19 
Аналоговые чипы дешевы пока хватает примерно 8-битовой точности (200 уровней или 0.5% погрешность);
где-то на 0.05% точности (10 бит) уже аналог практически сравнивается по цене с цифрой;
а 0.000005% (20 бит) уже аналогом дорого выходит, тяжело добиться повторимости такой высокой точности и обычно приходится триммировать обрезанием лазером перемычек после измерения параметров получившейся детали.

Практически ВСЁ, предел где-то 22 бита, и массовое производство 24 бит и более, практически пока не существует.

С другой стороны, цифра позволяет масштабировать разряды, там если не хватает 23 бита ТОЧНОСТИ (FP32), берут 52 бит точности (ну так называемая двойная точность всего 64 бита).

Собственно, в этом основная проблема с вычислениями на GPU, что у геймерских чипов практически всегда FP32 производительность указывается, ее на части вычислений не хватает, приходится FP64 использовать, а на ней производительность сразу в 8 раз проседает (может и больше в зависимости от конкретики архитектуры).

А вот у профессиональных чипов FP32 часто меньше чем у геймерских, но зато они сделаны сразу с рассчетом на FP64 и у них на 64 не в 8 раз проседание а значительно меньше, хотя всё равно, ну никак меньше чем в 2 раза не выходит (потому что уже в скорость памяти упирается).

Ответить | Правка | Наверх | Cообщить модератору

Оглавление
Проект по производству открытого процессора, совместимого с Z80, opennews, 30-Апр-24, 11:52  [смотреть все]
Форумы | Темы | Пред. тема | След. тема



Партнёры:
PostgresPro
Inferno Solutions
Hosting by Hoster.ru
Хостинг:

Закладки на сайте
Проследить за страницей
Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру