[B! mod_poppo] mohnoのブックマーク

mohno id:mohno

mod_poppoに関するmohnoのブックマーク (3)

decimal型（十進小数）に夢を見ている輩が多すぎる - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?
mohno 2024/06/09
そこまで夢を見てる人を知らんが、コンピュータ内部では、日常的に使う10進法ではなく、2進法で計算するので「2のべき乗の組み合わせでない数は正確に表現できない」という話。そんなに3で割らなくていいよ（←オイ）

mod_poppo

decimal

プログラミング

浮動小数点

計算

誤差

開発

ネタ
リンク
ArmにあるというJavaScript専用命令とは何か、あるいは浮動小数点数を整数に変換する方法について - Qiita
元の値の絶対値が大きすぎる場合や、無限大、NaNの場合は、 6.3.1.4: 表現できない場合はundefined behavior。 Annex F.4: 表現できない場合はinvalid例外が発生して、値はunspecified。とされています。これ以外の浮動小数点数→整数型の変換方法には (l)lrint や (l)lround 関数などがあります。 Java 基本的に0方向への丸め（切り捨て）で計算されますが、コーナーケースについても言語仕様で定めています。 NaN：0を返す結果が表現できないもしくは無限大の場合：符号に応じて最大値または最小値が返る。参照： 5.1.3. Narrowing Primitive Conversion - Chapter 5. Conversions and Contexts JavaScript JavaScriptではビット演算やいくつか
mohno 2020/11/30
「ArmにあるというJavaScript専用命令」←ナニソレ？と思ったら「Armv8.3に FJCVTZS という命令を導入しました。命令名の J はJavaScriptのJです」←マジか。

Qiita

mod_poppo

ARM

CPU

JavaScript

開発

機械語

演算
リンク
浮動小数点数オタクが AtCoder Beginner Contest 169 のC問題をガチで解説してみる - Qiita
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article?
mohno 2020/06/02
Bを100倍後に四捨五入、が現実的だろうな。入力書式が決まっているならC言語（←オイコラ）→#include <stdio.h> #include <stdint.h> int main(void) { int64_t a; int b, c; scanf("%lld %d.%d", &a, &b, &c); printf("%lld\n", a * (b * 100 + c) / 100); }

Qiita

mod_poppo

AtCoder

開発

プログラミング

計算

誤差

C++

Python

Haskell
リンク
1

お知らせ

もっと読む

公式Twitter

@HatenaBookmark
リリース、障害情報などのサービスのお知らせ
@hatebu
最新の人気エントリーの配信

キーボードショートカット一覧

j次のブックマーク

k前のブックマーク

lあとで読む

eコメント一覧を開く

oページを開く

設定を変更しましたx