Описание проблемы

Я получаю странные результаты по времени выполнения для следующего кода:

import numpy as np
s = 0
for i in range(10000000):
    s += np.float64(1)  # замените на np.float32 и встроенный float

Результаты замеров времени:

• встроенный float: 4.9 с
• float64: 10.5...

Я читаю данные из файла, модифицирую их и записываю в другой файл. Новый файл будет читаться другой программой, поэтому критически важно сохранить точное форматирование.

Например, одно из чисел в моем входном файле выглядит так:

1.000000

Мой скрипт применяет некоторые математические...

Описание проблемы

Я столкнулся с ошибкой "can't multiply sequence by non-int of type 'float'" в следующем коде:

def nestEgVariable(salary, save, growthRates):
    SavingsRecord = []
    fund = 0
    depositPerYear = salary * save * 0.01
    for i in growthRates:  
        fund =...

Я пишу клиент и сервер для реалтайм симулятора оффшора, и поскольку мне нужно передавать большое количество данных через сокет, я использую бинарные данные, чтобы максимизировать объем передаваемой информации. Я уже знаком с порядком байтов для целых чисел и знаю, как использовать htonl и...

Проблема с округлением чисел с плавающей точкой в Java

В следующей программе наблюдается странное поведение округления значений, которое не соответствует ожидаемому результату. При проверке значений, немного меньших, чем 0.5, они округляются вниз, за исключением самого 0.5.

Вот код,...

Как округлить число ВВЕРХ в Python? Я пытался использовать round(number), но это округляет число вниз. Вот пример: round(2.3) = 2.0

А мне нужно, чтобы оно округлялось до 3, как я хотел. Затем я попробовал int(number + .5), но оно снова округляет число вниз! Пример: int(2.3 + .5) = 2

Проблема: Красивая печать чисел с плавающей запятой в Java

Я использую тип double для представления всех моих чисел, поскольку максимальное целое значение, которое мне нужно обрабатывать, – это 32-битное беззнаковое число. Важно отметить, что double может точно представлять целые числа в...

random.randrange(start, stop) принимает только целочисленные аргументы. Как мне получить случайное число между двумя значениями с плавающей запятой?

Описание проблемы: Как наиболее эффективно сравнивать два значения типа double или float?

Просто использование следующего подхода будет некорректным:

bool CompareDoubles1(double A, double B)
{
   return A == B;
}

Такой метод не учитывает возможные проблемы с точностью,...

Проблема:

Почему следующий участок кода:

const float x[16] = {  1.1,   1.2,   1.3,     1.4,   1.5,   1.6,   1.7,   1.8,
                       1.9,   2.0,   2.1,     2.2,   2.3,   2.4,   2.5,   2.6};
const float z[16] = {1.123, 1.234, 1.345, 156.467, 1.578, 1.689, 1.790, 1.812,
          ...

Как мне пройтись по числам от 0 до 1 с шагом 0.1? При попытке использовать следующий код возникает ошибка, так как аргумент шага не может быть равен нулю: for i in range(0, 1, 0.1): print(i)

Заголовок: Проблема с форматированием чисел для отображения с двумя десятичными знаками в JavaScript

Я хотел бы отформатировать свои числа так, чтобы они всегда отображались с двумя десятичными знаками, округляя при необходимости.

Примеры:

число     отображение
------     -------
1         ...

Описание проблемы:

У меня есть следующий тестовый скрипт:

function test() {
  var x = 0.1 * 0.2;
  document.write(x);
}
test();

Этот код выводит результат 0.020000000000000004, хотя должен показывать просто 0.02 (если использовать калькулятор). Насколько я понял, это...

Как можно преобразовать строку (str) в число с плавающей запятой (float)?

"545.2222" -> 545.2222

Или же как преобразовать строку (str) в целое число (int)?

"31" -> 31

*Для обратного преобразования смотрите [Как преобразовать целое число в строку в...