Branch data Line data Source code
1 : : /* Output variables, constants and external declarations, for GNU compiler.
2 : : Copyright (C) 1987-2024 Free Software Foundation, Inc.
3 : :
4 : : This file is part of GCC.
5 : :
6 : : GCC is free software; you can redistribute it and/or modify it under
7 : : the terms of the GNU General Public License as published by the Free
8 : : Software Foundation; either version 3, or (at your option) any later
9 : : version.
10 : :
11 : : GCC is distributed in the hope that it will be useful, but WITHOUT ANY
12 : : WARRANTY; without even the implied warranty of MERCHANTABILITY or
13 : : FITNESS FOR A PARTICULAR PURPOSE. See the GNU General Public License
14 : : for more details.
15 : :
16 : : You should have received a copy of the GNU General Public License
17 : : along with GCC; see the file COPYING3. If not see
18 : : <http://www.gnu.org/licenses/>. */
19 : :
20 : :
21 : : /* This file handles generation of all the assembler code
22 : : *except* the instructions of a function.
23 : : This includes declarations of variables and their initial values.
24 : :
25 : : We also output the assembler code for constants stored in memory
26 : : and are responsible for combining constants with the same value. */
27 : :
28 : : #include "config.h"
29 : : #include "system.h"
30 : : #include "coretypes.h"
31 : : #include "backend.h"
32 : : #include "target.h"
33 : : #include "rtl.h"
34 : : #include "tree.h"
35 : : #include "predict.h"
36 : : #include "memmodel.h"
37 : : #include "tm_p.h"
38 : : #include "stringpool.h"
39 : : #include "regs.h"
40 : : #include "emit-rtl.h"
41 : : #include "cgraph.h"
42 : : #include "diagnostic-core.h"
43 : : #include "fold-const.h"
44 : : #include "stor-layout.h"
45 : : #include "varasm.h"
46 : : #include "version.h"
47 : : #include "flags.h"
48 : : #include "stmt.h"
49 : : #include "expr.h"
50 : : #include "expmed.h"
51 : : #include "optabs.h"
52 : : #include "output.h"
53 : : #include "langhooks.h"
54 : : #include "debug.h"
55 : : #include "common/common-target.h"
56 : : #include "stringpool.h"
57 : : #include "attribs.h"
58 : : #include "asan.h"
59 : : #include "rtl-iter.h"
60 : : #include "file-prefix-map.h" /* remap_debug_filename() */
61 : : #include "alloc-pool.h"
62 : : #include "toplev.h"
63 : : #include "opts.h"
64 : : #include "asan.h"
65 : : #include "recog.h"
66 : : #include "gimple-expr.h"
67 : :
68 : : /* The (assembler) name of the first globally-visible object output. */
69 : : extern GTY(()) const char *first_global_object_name;
70 : : extern GTY(()) const char *weak_global_object_name;
71 : :
72 : : const char *first_global_object_name;
73 : : const char *weak_global_object_name;
74 : :
75 : : class addr_const;
76 : : class constant_descriptor_rtx;
77 : : struct rtx_constant_pool;
78 : :
79 : : #define n_deferred_constants (crtl->varasm.deferred_constants)
80 : :
81 : : /* Number for making the label on the next
82 : : constant that is stored in memory. */
83 : :
84 : : static GTY(()) int const_labelno;
85 : :
86 : : /* Carry information from ASM_DECLARE_OBJECT_NAME
87 : : to ASM_FINISH_DECLARE_OBJECT. */
88 : :
89 : : int size_directive_output;
90 : :
91 : : /* The last decl for which assemble_variable was called,
92 : : if it did ASM_DECLARE_OBJECT_NAME.
93 : : If the last call to assemble_variable didn't do that,
94 : : this holds 0. */
95 : :
96 : : tree last_assemble_variable_decl;
97 : :
98 : : /* The following global variable indicates if the first basic block
99 : : in a function belongs to the cold partition or not. */
100 : :
101 : : bool first_function_block_is_cold;
102 : :
103 : : /* Whether we saw any functions with no_split_stack. */
104 : :
105 : : static bool saw_no_split_stack;
106 : :
107 : : static const char *strip_reg_name (const char *);
108 : : static bool contains_pointers_p (tree);
109 : : #ifdef ASM_OUTPUT_EXTERNAL
110 : : static bool incorporeal_function_p (tree);
111 : : #endif
112 : : static void decode_addr_const (tree, class addr_const *);
113 : : static hashval_t const_hash_1 (const tree);
114 : : static bool compare_constant (const tree, const tree);
115 : : static void output_constant_def_contents (rtx);
116 : : static void output_addressed_constants (tree, int);
117 : : static unsigned HOST_WIDE_INT output_constant (tree, unsigned HOST_WIDE_INT,
118 : : unsigned int, bool, bool);
119 : : static void globalize_decl (tree);
120 : : static bool decl_readonly_section_1 (enum section_category);
121 : : #ifdef BSS_SECTION_ASM_OP
122 : : #ifdef ASM_OUTPUT_ALIGNED_BSS
123 : : static void asm_output_aligned_bss (FILE *, tree, const char *,
124 : : unsigned HOST_WIDE_INT, int)
125 : : ATTRIBUTE_UNUSED;
126 : : #endif
127 : : #endif /* BSS_SECTION_ASM_OP */
128 : : static void mark_weak (tree);
129 : : static void output_constant_pool (const char *, tree);
130 : : static void handle_vtv_comdat_section (section *, const_tree);
131 : :
132 : : /* Well-known sections, each one associated with some sort of *_ASM_OP. */
133 : : section *text_section;
134 : : section *data_section;
135 : : section *readonly_data_section;
136 : : section *sdata_section;
137 : : section *ctors_section;
138 : : section *dtors_section;
139 : : section *bss_section;
140 : : section *sbss_section;
141 : :
142 : : /* Various forms of common section. All are guaranteed to be nonnull. */
143 : : section *tls_comm_section;
144 : : section *comm_section;
145 : : section *lcomm_section;
146 : :
147 : : /* A SECTION_NOSWITCH section used for declaring global BSS variables.
148 : : May be null. */
149 : : section *bss_noswitch_section;
150 : :
151 : : /* The section that holds the main exception table, when known. The section
152 : : is set either by the target's init_sections hook or by the first call to
153 : : switch_to_exception_section. */
154 : : section *exception_section;
155 : :
156 : : /* The section that holds the DWARF2 frame unwind information, when known.
157 : : The section is set either by the target's init_sections hook or by the
158 : : first call to switch_to_eh_frame_section. */
159 : : section *eh_frame_section;
160 : :
161 : : /* asm_out_file's current section. This is NULL if no section has yet
162 : : been selected or if we lose track of what the current section is. */
163 : : section *in_section;
164 : :
165 : : /* True if code for the current function is currently being directed
166 : : at the cold section. */
167 : : bool in_cold_section_p;
168 : :
169 : : /* The following global holds the "function name" for the code in the
170 : : cold section of a function, if hot/cold function splitting is enabled
171 : : and there was actually code that went into the cold section. A
172 : : pseudo function name is needed for the cold section of code for some
173 : : debugging tools that perform symbolization. */
174 : : tree cold_function_name = NULL_TREE;
175 : :
176 : : /* A linked list of all the unnamed sections. */
177 : : static GTY(()) section *unnamed_sections;
178 : :
179 : : /* Return a nonzero value if DECL has a section attribute. */
180 : : #define IN_NAMED_SECTION(DECL) \
181 : : (VAR_OR_FUNCTION_DECL_P (DECL) && DECL_SECTION_NAME (DECL) != NULL)
182 : :
183 : : struct section_hasher : ggc_ptr_hash<section>
184 : : {
185 : : typedef const char *compare_type;
186 : :
187 : : static hashval_t hash (section *);
188 : : static bool equal (section *, const char *);
189 : : };
190 : :
191 : : /* Hash table of named sections. */
192 : : static GTY(()) hash_table<section_hasher> *section_htab;
193 : :
194 : : struct object_block_hasher : ggc_ptr_hash<object_block>
195 : : {
196 : : typedef const section *compare_type;
197 : :
198 : : static hashval_t hash (object_block *);
199 : : static bool equal (object_block *, const section *);
200 : : };
201 : :
202 : : /* A table of object_blocks, indexed by section. */
203 : : static GTY(()) hash_table<object_block_hasher> *object_block_htab;
204 : :
205 : : /* The next number to use for internal anchor labels. */
206 : : static GTY(()) int anchor_labelno;
207 : :
208 : : /* A pool of constants that can be shared between functions. */
209 : : static GTY(()) struct rtx_constant_pool *shared_constant_pool;
210 : :
211 : : /* Helper routines for maintaining section_htab. */
212 : :
213 : : bool
214 : 369183161 : section_hasher::equal (section *old, const char *new_name)
215 : : {
216 : 369183161 : return strcmp (old->named.name, new_name) == 0;
217 : : }
218 : :
219 : : hashval_t
220 : 270070702 : section_hasher::hash (section *old)
221 : : {
222 : 270070702 : return htab_hash_string (old->named.name);
223 : : }
224 : :
225 : : /* Return a hash value for section SECT. */
226 : :
227 : : static hashval_t
228 : 0 : hash_section (section *sect)
229 : : {
230 : 0 : if (sect->common.flags & SECTION_NAMED)
231 : 0 : return htab_hash_string (sect->named.name);
232 : 0 : return sect->common.flags & ~SECTION_DECLARED;
233 : : }
234 : :
235 : : /* Helper routines for maintaining object_block_htab. */
236 : :
237 : : inline bool
238 : 0 : object_block_hasher::equal (object_block *old, const section *new_section)
239 : : {
240 : 0 : return old->sect == new_section;
241 : : }
242 : :
243 : : hashval_t
244 : 0 : object_block_hasher::hash (object_block *old)
245 : : {
246 : 0 : return hash_section (old->sect);
247 : : }
248 : :
249 : : /* Return a new unnamed section with the given fields. */
250 : :
251 : : section *
252 : 1095204 : get_unnamed_section (unsigned int flags, void (*callback) (const char *),
253 : : const char *data)
254 : : {
255 : 1095204 : section *sect;
256 : :
257 : 1095204 : sect = ggc_alloc<section> ();
258 : 1095204 : sect->unnamed.common.flags = flags | SECTION_UNNAMED;
259 : 1095204 : sect->unnamed.callback = callback;
260 : 1095204 : sect->unnamed.data = data;
261 : 1095204 : sect->unnamed.next = unnamed_sections;
262 : :
263 : 1095204 : unnamed_sections = sect;
264 : 1095204 : return sect;
265 : : }
266 : :
267 : : /* Return a SECTION_NOSWITCH section with the given fields. */
268 : :
269 : : static section *
270 : 1095204 : get_noswitch_section (unsigned int flags, noswitch_section_callback callback)
271 : : {
272 : 1095204 : section *sect;
273 : :
274 : 0 : sect = ggc_alloc<section> ();
275 : 1095204 : sect->noswitch.common.flags = flags | SECTION_NOSWITCH;
276 : 1095204 : sect->noswitch.callback = callback;
277 : :
278 : 1095204 : return sect;
279 : : }
280 : :
281 : : /* Return the named section structure associated with NAME. Create
282 : : a new section with the given fields if no such structure exists.
283 : : When NOT_EXISTING, then fail if the section already exists. Return
284 : : the existing section if the SECTION_RETAIN bit doesn't match. Set
285 : : the SECTION_WRITE | SECTION_RELRO bits on the existing section
286 : : if one of the section flags is SECTION_WRITE | SECTION_RELRO and the
287 : : other has none of these flags in named sections and either the section
288 : : hasn't been declared yet or has been declared as writable. */
289 : :
290 : : section *
291 : 58948838 : get_section (const char *name, unsigned int flags, tree decl,
292 : : bool not_existing)
293 : : {
294 : 58948838 : section *sect, **slot;
295 : :
296 : 58948838 : slot = section_htab->find_slot_with_hash (name, htab_hash_string (name),
297 : : INSERT);
298 : 58948838 : flags |= SECTION_NAMED;
299 : 58948838 : if (decl != nullptr
300 : 56993914 : && DECL_P (decl)
301 : 115942752 : && lookup_attribute ("retain", DECL_ATTRIBUTES (decl)))
302 : 454 : flags |= SECTION_RETAIN;
303 : 58948838 : if (*slot == NULL)
304 : : {
305 : 3371557 : sect = ggc_alloc<section> ();
306 : 3371557 : sect->named.common.flags = flags;
307 : 3371557 : sect->named.name = ggc_strdup (name);
308 : 3371557 : sect->named.decl = decl;
309 : 3371557 : *slot = sect;
310 : : }
311 : : else
312 : : {
313 : 55577281 : if (not_existing)
314 : 0 : internal_error ("section already exists: %qs", name);
315 : :
316 : 55577281 : sect = *slot;
317 : : /* It is fine if one of the sections has SECTION_NOTYPE as long as
318 : : the other has none of the contrary flags (see the logic at the end
319 : : of default_section_type_flags, below). */
320 : 55577281 : if (((sect->common.flags ^ flags) & SECTION_NOTYPE)
321 : 5 : && !((sect->common.flags | flags)
322 : 5 : & (SECTION_CODE | SECTION_BSS | SECTION_TLS | SECTION_ENTSIZE
323 : : | (HAVE_COMDAT_GROUP ? SECTION_LINKONCE : 0))))
324 : : {
325 : 3 : sect->common.flags |= SECTION_NOTYPE;
326 : 3 : flags |= SECTION_NOTYPE;
327 : : }
328 : 55577281 : if ((sect->common.flags & ~SECTION_DECLARED) != flags
329 : 54 : && ((sect->common.flags | flags) & SECTION_OVERRIDE) == 0)
330 : : {
331 : : /* It is fine if one of the section flags is
332 : : SECTION_WRITE | SECTION_RELRO and the other has none of these
333 : : flags (i.e. read-only) in named sections and either the
334 : : section hasn't been declared yet or has been declared as writable.
335 : : In that case just make sure the resulting flags are
336 : : SECTION_WRITE | SECTION_RELRO, ie. writable only because of
337 : : relocations. */
338 : 50 : if (((sect->common.flags ^ flags) & (SECTION_WRITE | SECTION_RELRO))
339 : : == (SECTION_WRITE | SECTION_RELRO)
340 : 8 : && (sect->common.flags
341 : 8 : & ~(SECTION_DECLARED | SECTION_WRITE | SECTION_RELRO))
342 : 8 : == (flags & ~(SECTION_WRITE | SECTION_RELRO))
343 : 8 : && ((sect->common.flags & SECTION_DECLARED) == 0
344 : 8 : || (sect->common.flags & SECTION_WRITE)))
345 : : {
346 : 8 : sect->common.flags |= (SECTION_WRITE | SECTION_RELRO);
347 : 8 : return sect;
348 : : }
349 : : /* If the SECTION_RETAIN bit doesn't match, return and switch
350 : : to a new section later. */
351 : 42 : if ((sect->common.flags & SECTION_RETAIN)
352 : 42 : != (flags & SECTION_RETAIN))
353 : : return sect;
354 : : /* Sanity check user variables for flag changes. */
355 : 2 : if (sect->named.decl != NULL
356 : 2 : && DECL_P (sect->named.decl)
357 : 2 : && decl != sect->named.decl)
358 : : {
359 : 2 : if (decl != NULL && DECL_P (decl))
360 : 2 : error ("%+qD causes a section type conflict with %qD"
361 : : " in section %qs",
362 : : decl, sect->named.decl, name);
363 : : else
364 : 0 : error ("section type conflict with %qD in section %qs",
365 : : sect->named.decl, name);
366 : 2 : inform (DECL_SOURCE_LOCATION (sect->named.decl),
367 : : "%qD was declared here", sect->named.decl);
368 : : }
369 : 0 : else if (decl != NULL && DECL_P (decl))
370 : 0 : error ("%+qD causes a section type conflict for section %qs",
371 : : decl, name);
372 : : else
373 : 0 : error ("section type conflict for section %qs", name);
374 : : /* Make sure we don't error about one section multiple times. */
375 : 2 : sect->common.flags |= SECTION_OVERRIDE;
376 : : }
377 : : }
378 : : return sect;
379 : : }
380 : :
381 : : /* Return true if the current compilation mode benefits from having
382 : : objects grouped into blocks. */
383 : :
384 : : static bool
385 : 9944001 : use_object_blocks_p (void)
386 : : {
387 : 9944001 : return flag_section_anchors;
388 : : }
389 : :
390 : : /* Return the object_block structure for section SECT. Create a new
391 : : structure if we haven't created one already. Return null if SECT
392 : : itself is null. Return also null for mergeable sections since
393 : : section anchors can't be used in mergeable sections anyway,
394 : : because the linker might move objects around, and using the
395 : : object blocks infrastructure in that case is both a waste and a
396 : : maintenance burden. */
397 : :
398 : : static struct object_block *
399 : 0 : get_block_for_section (section *sect)
400 : : {
401 : 0 : struct object_block *block;
402 : :
403 : 0 : if (sect == NULL)
404 : : return NULL;
405 : :
406 : 0 : if (sect->common.flags & SECTION_MERGE)
407 : : return NULL;
408 : :
409 : 0 : object_block **slot
410 : 0 : = object_block_htab->find_slot_with_hash (sect, hash_section (sect),
411 : : INSERT);
412 : 0 : block = *slot;
413 : 0 : if (block == NULL)
414 : : {
415 : 0 : block = ggc_cleared_alloc<object_block> ();
416 : 0 : block->sect = sect;
417 : 0 : *slot = block;
418 : : }
419 : : return block;
420 : : }
421 : :
422 : : /* Create a symbol with label LABEL and place it at byte offset
423 : : OFFSET in BLOCK. OFFSET can be negative if the symbol's offset
424 : : is not yet known. LABEL must be a garbage-collected string. */
425 : :
426 : : static rtx
427 : 0 : create_block_symbol (const char *label, struct object_block *block,
428 : : HOST_WIDE_INT offset)
429 : : {
430 : 0 : rtx symbol;
431 : 0 : unsigned int size;
432 : :
433 : : /* Create the extended SYMBOL_REF. */
434 : 0 : size = RTX_HDR_SIZE + sizeof (struct block_symbol);
435 : 0 : symbol = (rtx) ggc_internal_alloc (size);
436 : :
437 : : /* Initialize the normal SYMBOL_REF fields. */
438 : 0 : memset (symbol, 0, size);
439 : 0 : PUT_CODE (symbol, SYMBOL_REF);
440 : 0 : PUT_MODE (symbol, Pmode);
441 : 0 : XSTR (symbol, 0) = label;
442 : 0 : SYMBOL_REF_FLAGS (symbol) = SYMBOL_FLAG_HAS_BLOCK_INFO;
443 : :
444 : : /* Initialize the block_symbol stuff. */
445 : 0 : SYMBOL_REF_BLOCK (symbol) = block;
446 : 0 : SYMBOL_REF_BLOCK_OFFSET (symbol) = offset;
447 : :
448 : 0 : return symbol;
449 : : }
450 : :
451 : : /* Return a section with a particular name and with whatever SECTION_*
452 : : flags section_type_flags deems appropriate. The name of the section
453 : : is taken from NAME if nonnull, otherwise it is taken from DECL's
454 : : DECL_SECTION_NAME. DECL is the decl associated with the section
455 : : (see the section comment for details) and RELOC is as for
456 : : section_type_flags. */
457 : :
458 : : section *
459 : 56834510 : get_named_section (tree decl, const char *name, int reloc)
460 : : {
461 : 56834510 : unsigned int flags;
462 : :
463 : 56834510 : if (name == NULL)
464 : : {
465 : 50647388 : gcc_assert (decl && DECL_P (decl) && DECL_SECTION_NAME (decl));
466 : 50647388 : name = DECL_SECTION_NAME (decl);
467 : : }
468 : :
469 : 56834510 : flags = targetm.section_type_flags (decl, name, reloc);
470 : 56834510 : return get_section (name, flags, decl);
471 : : }
472 : :
473 : : /* Worker for resolve_unique_section. */
474 : :
475 : : static bool
476 : 1807800 : set_implicit_section (struct symtab_node *n, void *data ATTRIBUTE_UNUSED)
477 : : {
478 : 1807800 : n->implicit_section = true;
479 : 1807800 : return false;
480 : : }
481 : :
482 : : /* If required, set DECL_SECTION_NAME to a unique name. */
483 : :
484 : : void
485 : 7363340 : resolve_unique_section (tree decl, int reloc ATTRIBUTE_UNUSED,
486 : : int flag_function_or_data_sections)
487 : : {
488 : 7363340 : if (DECL_SECTION_NAME (decl) == NULL
489 : 4493205 : && targetm_common.have_named_sections
490 : 11856545 : && (flag_function_or_data_sections
491 : 2834618 : || lookup_attribute ("retain", DECL_ATTRIBUTES (decl))
492 : 2834500 : || DECL_COMDAT_GROUP (decl)))
493 : : {
494 : 1767896 : targetm.asm_out.unique_section (decl, reloc);
495 : 1767896 : if (DECL_SECTION_NAME (decl))
496 : 1767896 : symtab_node::get (decl)->call_for_symbol_and_aliases
497 : 1767896 : (set_implicit_section, NULL, true);
498 : : }
499 : 7363340 : }
500 : :
501 : : #ifdef BSS_SECTION_ASM_OP
502 : :
503 : : #ifdef ASM_OUTPUT_ALIGNED_BSS
504 : :
505 : : /* Utility function for targets to use in implementing
506 : : ASM_OUTPUT_ALIGNED_BSS.
507 : : ??? It is believed that this function will work in most cases so such
508 : : support is localized here. */
509 : :
510 : : static void
511 : 0 : asm_output_aligned_bss (FILE *file, tree decl ATTRIBUTE_UNUSED,
512 : : const char *name, unsigned HOST_WIDE_INT size,
513 : : int align)
514 : : {
515 : 0 : switch_to_section (bss_section);
516 : 0 : ASM_OUTPUT_ALIGN (file, floor_log2 (align / BITS_PER_UNIT));
517 : : #ifdef ASM_DECLARE_OBJECT_NAME
518 : 0 : last_assemble_variable_decl = decl;
519 : 0 : ASM_DECLARE_OBJECT_NAME (file, name, decl);
520 : : #else
521 : : /* Standard thing is just output label for the object. */
522 : : ASM_OUTPUT_LABEL (file, name);
523 : : #endif /* ASM_DECLARE_OBJECT_NAME */
524 : 0 : ASM_OUTPUT_SKIP (file, size ? size : 1);
525 : 0 : }
526 : :
527 : : #endif
528 : :
529 : : #endif /* BSS_SECTION_ASM_OP */
530 : :
531 : : #ifndef USE_SELECT_SECTION_FOR_FUNCTIONS
532 : : /* Return the hot section for function DECL. Return text_section for
533 : : null DECLs. */
534 : :
535 : : static section *
536 : 72122574 : hot_function_section (tree decl)
537 : : {
538 : 72122574 : if (decl != NULL_TREE
539 : 72122574 : && DECL_SECTION_NAME (decl) != NULL
540 : 119819844 : && targetm_common.have_named_sections)
541 : 47697270 : return get_named_section (decl, NULL, 0);
542 : : else
543 : 24425304 : return text_section;
544 : : }
545 : : #endif
546 : :
547 : : /* Return section for TEXT_SECTION_NAME if DECL or DECL_SECTION_NAME (DECL)
548 : : is NULL.
549 : :
550 : : When DECL_SECTION_NAME is non-NULL and it is implicit section and
551 : : NAMED_SECTION_SUFFIX is non-NULL, then produce section called
552 : : concatenate the name with NAMED_SECTION_SUFFIX.
553 : : Otherwise produce "TEXT_SECTION_NAME.IMPLICIT_NAME". */
554 : :
555 : : section *
556 : 6182196 : get_named_text_section (tree decl,
557 : : const char *text_section_name,
558 : : const char *named_section_suffix)
559 : : {
560 : 6182196 : if (decl && DECL_SECTION_NAME (decl))
561 : : {
562 : 5324735 : if (named_section_suffix)
563 : : {
564 : 0 : const char *dsn = DECL_SECTION_NAME (decl);
565 : 0 : const char *stripped_name;
566 : 0 : char *name, *buffer;
567 : :
568 : 0 : name = (char *) alloca (strlen (dsn) + 1);
569 : 0 : memcpy (name, dsn,
570 : 0 : strlen (dsn) + 1);
571 : :
572 : 0 : stripped_name = targetm.strip_name_encoding (name);
573 : :
574 : 0 : buffer = ACONCAT ((stripped_name, named_section_suffix, NULL));
575 : 0 : return get_named_section (decl, buffer, 0);
576 : : }
577 : 5324735 : else if (symtab_node::get (decl)->implicit_section)
578 : : {
579 : 5324714 : const char *name;
580 : :
581 : : /* Do not try to split gnu_linkonce functions. This gets somewhat
582 : : slipperly. */
583 : 5324714 : if (DECL_COMDAT_GROUP (decl) && !HAVE_COMDAT_GROUP)
584 : : return NULL;
585 : 5324714 : name = IDENTIFIER_POINTER (DECL_ASSEMBLER_NAME (decl));
586 : 5324714 : name = targetm.strip_name_encoding (name);
587 : 5324714 : return get_named_section (decl, ACONCAT ((text_section_name, ".",
588 : 5324714 : name, NULL)), 0);
589 : : }
590 : : else
591 : : return NULL;
592 : : }
593 : 857461 : return get_named_section (decl, text_section_name, 0);
594 : : }
595 : :
596 : : /* Choose named function section based on its frequency. */
597 : :
598 : : section *
599 : 78304749 : default_function_section (tree decl, enum node_frequency freq,
600 : : bool startup, bool exit)
601 : : {
602 : : #if defined HAVE_LD_EH_GC_SECTIONS && defined HAVE_LD_EH_GC_SECTIONS_BUG
603 : : /* Old GNU linkers have buggy --gc-section support, which sometimes
604 : : results in .gcc_except_table* sections being garbage collected. */
605 : : if (decl
606 : : && symtab_node::get (decl)->implicit_section)
607 : : return NULL;
608 : : #endif
609 : :
610 : 78304749 : if (!flag_reorder_functions
611 : 76041973 : || !targetm_common.have_named_sections)
612 : : return NULL;
613 : : /* Startup code should go to startup subsection unless it is
614 : : unlikely executed (this happens especially with function splitting
615 : : where we can split away unnecessary parts of static constructors. */
616 : 76041973 : if (startup && freq != NODE_FREQUENCY_UNLIKELY_EXECUTED)
617 : : {
618 : : /* During LTO the tp_first_run profiling will naturally place all
619 : : initialization code first. Using separate section is counter-productive
620 : : because startup only code may call functions which are no longer
621 : : startup only. */
622 : 1132413 : if (!in_lto_p
623 : 35268 : || !cgraph_node::get (decl)->tp_first_run
624 : 1132421 : || !opt_for_fn (decl, flag_profile_reorder_functions))
625 : 1132405 : return get_named_text_section (decl, ".text.startup", NULL);
626 : : else
627 : : return NULL;
628 : : }
629 : :
630 : : /* Similarly for exit. */
631 : 74909560 : if (exit && freq != NODE_FREQUENCY_UNLIKELY_EXECUTED)
632 : 3866 : return get_named_text_section (decl, ".text.exit", NULL);
633 : :
634 : : /* Group cold functions together, similarly for hot code. */
635 : 74905694 : switch (freq)
636 : : {
637 : 5045305 : case NODE_FREQUENCY_UNLIKELY_EXECUTED:
638 : 5045305 : return get_named_text_section (decl, ".text.unlikely", NULL);
639 : 620 : case NODE_FREQUENCY_HOT:
640 : 620 : return get_named_text_section (decl, ".text.hot", NULL);
641 : : /* FALLTHRU */
642 : : default:
643 : : return NULL;
644 : : }
645 : : }
646 : :
647 : : /* Return the section for function DECL.
648 : :
649 : : If DECL is NULL_TREE, return the text section. We can be passed
650 : : NULL_TREE under some circumstances by dbxout.cc at least.
651 : :
652 : : If FORCE_COLD is true, return cold function section ignoring
653 : : the frequency info of cgraph_node. */
654 : :
655 : : static section *
656 : 78304749 : function_section_1 (tree decl, bool force_cold)
657 : : {
658 : 78304749 : section *section = NULL;
659 : 78304749 : enum node_frequency freq = NODE_FREQUENCY_NORMAL;
660 : 78304749 : bool startup = false, exit = false;
661 : :
662 : 78304749 : if (decl)
663 : : {
664 : 78304749 : struct cgraph_node *node = cgraph_node::get (decl);
665 : :
666 : 78304749 : if (node)
667 : : {
668 : 78304749 : freq = node->frequency;
669 : 78304749 : startup = node->only_called_at_startup;
670 : 78304749 : exit = node->only_called_at_exit;
671 : : }
672 : : }
673 : 78304749 : if (force_cold)
674 : 4927724 : freq = NODE_FREQUENCY_UNLIKELY_EXECUTED;
675 : :
676 : : #ifdef USE_SELECT_SECTION_FOR_FUNCTIONS
677 : : if (decl != NULL_TREE
678 : : && DECL_SECTION_NAME (decl) != NULL)
679 : : {
680 : : if (targetm.asm_out.function_section)
681 : : section = targetm.asm_out.function_section (decl, freq,
682 : : startup, exit);
683 : : if (section)
684 : : return section;
685 : : return get_named_section (decl, NULL, 0);
686 : : }
687 : : else
688 : : return targetm.asm_out.select_section
689 : : (decl, freq == NODE_FREQUENCY_UNLIKELY_EXECUTED,
690 : : symtab_node::get (decl)->definition_alignment ());
691 : : #else
692 : 78304749 : if (targetm.asm_out.function_section)
693 : 78304749 : section = targetm.asm_out.function_section (decl, freq, startup, exit);
694 : 78304749 : if (section)
695 : : return section;
696 : 72122574 : return hot_function_section (decl);
697 : : #endif
698 : : }
699 : :
700 : : /* Return the section for function DECL.
701 : :
702 : : If DECL is NULL_TREE, return the text section. We can be passed
703 : : NULL_TREE under some circumstances by dbxout.cc at least. */
704 : :
705 : : section *
706 : 3496256 : function_section (tree decl)
707 : : {
708 : : /* Handle cases where function splitting code decides
709 : : to put function entry point into unlikely executed section
710 : : despite the fact that the function itself is not cold
711 : : (i.e. it is called rarely but contains a hot loop that is
712 : : better to live in hot subsection for the code locality). */
713 : 3496256 : return function_section_1 (decl,
714 : 3496256 : first_function_block_is_cold);
715 : : }
716 : :
717 : : /* Return the section for the current function, take IN_COLD_SECTION_P
718 : : into account. */
719 : :
720 : : section *
721 : 74680160 : current_function_section (void)
722 : : {
723 : 74680160 : return function_section_1 (current_function_decl, in_cold_section_p);
724 : : }
725 : :
726 : : /* Tell assembler to switch to unlikely-to-be-executed text section. */
727 : :
728 : : section *
729 : 128333 : unlikely_text_section (void)
730 : : {
731 : 128333 : return function_section_1 (current_function_decl, true);
732 : : }
733 : :
734 : : /* When called within a function context, return true if the function
735 : : has been assigned a cold text section and if SECT is that section.
736 : : When called outside a function context, return true if SECT is the
737 : : default cold section. */
738 : :
739 : : bool
740 : 0 : unlikely_text_section_p (section *sect)
741 : : {
742 : 0 : return sect == function_section_1 (current_function_decl, true);
743 : : }
744 : :
745 : : /* Switch to the other function partition (if inside of hot section
746 : : into cold section, otherwise into the hot section). */
747 : :
748 : : void
749 : 0 : switch_to_other_text_partition (void)
750 : : {
751 : 0 : in_cold_section_p = !in_cold_section_p;
752 : 0 : switch_to_section (current_function_section ());
753 : 0 : }
754 : :
755 : : /* Return the read-only or relocated read-only data section
756 : : associated with function DECL. */
757 : :
758 : : section *
759 : 622180 : default_function_rodata_section (tree decl, bool relocatable)
760 : : {
761 : 622180 : const char* sname;
762 : 622180 : unsigned int flags;
763 : :
764 : 622180 : flags = 0;
765 : :
766 : 622180 : if (relocatable)
767 : : {
768 : : sname = ".data.rel.ro.local";
769 : : flags = (SECTION_WRITE | SECTION_RELRO);
770 : : }
771 : : else
772 : 622180 : sname = ".rodata";
773 : :
774 : 622180 : if (decl && DECL_SECTION_NAME (decl))
775 : : {
776 : 112268 : const char *name = DECL_SECTION_NAME (decl);
777 : :
778 : 112268 : if (DECL_COMDAT_GROUP (decl) && HAVE_COMDAT_GROUP)
779 : : {
780 : 27433 : const char *dot;
781 : 27433 : size_t len;
782 : 27433 : char* rname;
783 : :
784 : 27433 : dot = strchr (name + 1, '.');
785 : 27433 : if (!dot)
786 : 0 : dot = name;
787 : 27433 : len = strlen (dot) + strlen (sname) + 1;
788 : 27433 : rname = (char *) alloca (len);
789 : :
790 : 27433 : strcpy (rname, sname);
791 : 27433 : strcat (rname, dot);
792 : 27433 : return get_section (rname, (SECTION_LINKONCE | flags), decl);
793 : : }
794 : : /* For .gnu.linkonce.t.foo we want to use .gnu.linkonce.r.foo or
795 : : .gnu.linkonce.d.rel.ro.local.foo if the jump table is relocatable. */
796 : 84835 : else if (DECL_COMDAT_GROUP (decl)
797 : 84835 : && startswith (name, ".gnu.linkonce.t."))
798 : : {
799 : 0 : size_t len;
800 : 0 : char *rname;
801 : :
802 : 0 : if (relocatable)
803 : : {
804 : 0 : len = strlen (name) + strlen (".rel.ro.local") + 1;
805 : 0 : rname = (char *) alloca (len);
806 : :
807 : 0 : strcpy (rname, ".gnu.linkonce.d.rel.ro.local");
808 : 0 : strcat (rname, name + 15);
809 : : }
810 : : else
811 : : {
812 : 0 : len = strlen (name) + 1;
813 : 0 : rname = (char *) alloca (len);
814 : :
815 : 0 : memcpy (rname, name, len);
816 : 0 : rname[14] = 'r';
817 : : }
818 : 0 : return get_section (rname, (SECTION_LINKONCE | flags), decl);
819 : : }
820 : : /* For .text.foo we want to use .rodata.foo. */
821 : 84831 : else if (flag_function_sections && flag_data_sections
822 : 169666 : && startswith (name, ".text."))
823 : : {
824 : 84831 : size_t len = strlen (name) + 1;
825 : 84831 : char *rname = (char *) alloca (len + strlen (sname) - 5);
826 : :
827 : 84831 : memcpy (rname, sname, strlen (sname));
828 : 84831 : memcpy (rname + strlen (sname), name + 5, len - 5);
829 : 84831 : return get_section (rname, flags, decl);
830 : : }
831 : : }
832 : :
833 : 509916 : if (relocatable)
834 : 0 : return get_section (sname, flags, decl);
835 : : else
836 : 509916 : return readonly_data_section;
837 : : }
838 : :
839 : : /* Return the read-only data section associated with function DECL
840 : : for targets where that section should be always the single
841 : : readonly data section. */
842 : :
843 : : section *
844 : 0 : default_no_function_rodata_section (tree, bool)
845 : : {
846 : 0 : return readonly_data_section;
847 : : }
848 : :
849 : : /* A subroutine of mergeable_string_section and mergeable_constant_section. */
850 : :
851 : : static const char *
852 : 609066 : function_mergeable_rodata_prefix (void)
853 : : {
854 : 609066 : section *s = targetm.asm_out.function_rodata_section (current_function_decl,
855 : : false);
856 : 609066 : if (SECTION_STYLE (s) == SECTION_NAMED)
857 : 105172 : return s->named.name;
858 : : else
859 : 503894 : return targetm.asm_out.mergeable_rodata_prefix;
860 : : }
861 : :
862 : : /* Return the section to use for string merging. */
863 : :
864 : : static section *
865 : 1211420 : mergeable_string_section (tree decl ATTRIBUTE_UNUSED,
866 : : unsigned HOST_WIDE_INT align ATTRIBUTE_UNUSED,
867 : : unsigned int flags ATTRIBUTE_UNUSED)
868 : : {
869 : 1211420 : HOST_WIDE_INT len;
870 : :
871 : 1211420 : if (HAVE_GAS_SHF_MERGE && flag_merge_constants
872 : 1034414 : && TREE_CODE (decl) == STRING_CST
873 : 1034414 : && TREE_CODE (TREE_TYPE (decl)) == ARRAY_TYPE
874 : 1034414 : && align <= 256
875 : 1034414 : && (len = int_size_in_bytes (TREE_TYPE (decl))) > 0
876 : 2245699 : && TREE_STRING_LENGTH (decl) == len)
877 : : {
878 : 392896 : scalar_int_mode mode;
879 : 392896 : unsigned int modesize;
880 : 392896 : const char *str;
881 : 392896 : HOST_WIDE_INT i;
882 : 392896 : int j, unit;
883 : 392896 : const char *prefix = function_mergeable_rodata_prefix ();
884 : 392896 : char *name = (char *) alloca (strlen (prefix) + 30);
885 : :
886 : 392896 : mode = SCALAR_INT_TYPE_MODE (TREE_TYPE (TREE_TYPE (decl)));
887 : 392896 : modesize = GET_MODE_BITSIZE (mode);
888 : 392896 : if (modesize >= 8 && modesize <= 256
889 : 392896 : && (modesize & (modesize - 1)) == 0)
890 : : {
891 : 392896 : if (align < modesize)
892 : : align = modesize;
893 : :
894 : 392896 : str = TREE_STRING_POINTER (decl);
895 : 392896 : unit = GET_MODE_SIZE (mode);
896 : :
897 : : /* Check for embedded NUL characters. */
898 : 114742802 : for (i = 0; i < len; i += unit)
899 : : {
900 : 115071971 : for (j = 0; j < unit; j++)
901 : 114714978 : if (str[i + j] != '\0')
902 : : break;
903 : 114706899 : if (j == unit)
904 : : break;
905 : : }
906 : 392896 : if (i == len - unit || (unit == 1 && i == len))
907 : : {
908 : 389215 : sprintf (name, "%s.str%d.%d", prefix,
909 : 389215 : modesize / 8, (int) (align / 8));
910 : 389215 : flags |= (modesize / 8) | SECTION_MERGE | SECTION_STRINGS;
911 : 389215 : return get_section (name, flags, NULL);
912 : : }
913 : : }
914 : : }
915 : :
916 : 822205 : return readonly_data_section;
917 : : }
918 : :
919 : : /* Return the section to use for constant merging. */
920 : :
921 : : section *
922 : 258653 : mergeable_constant_section (machine_mode mode ATTRIBUTE_UNUSED,
923 : : unsigned HOST_WIDE_INT align ATTRIBUTE_UNUSED,
924 : : unsigned int flags ATTRIBUTE_UNUSED)
925 : : {
926 : 258653 : if (HAVE_GAS_SHF_MERGE && flag_merge_constants
927 : 220045 : && mode != VOIDmode
928 : 220045 : && mode != BLKmode
929 : 220041 : && known_le (GET_MODE_BITSIZE (mode), align)
930 : 220041 : && align >= 8
931 : 220041 : && align <= 256
932 : 474823 : && (align & (align - 1)) == 0)
933 : : {
934 : 216170 : const char *prefix = function_mergeable_rodata_prefix ();
935 : 216170 : char *name = (char *) alloca (strlen (prefix) + 30);
936 : :
937 : 216170 : sprintf (name, "%s.cst%d", prefix, (int) (align / 8));
938 : 216170 : flags |= (align / 8) | SECTION_MERGE;
939 : 216170 : return get_section (name, flags, NULL);
940 : : }
941 : 42483 : return readonly_data_section;
942 : : }
943 : :
944 : : /* Given NAME, a putative register name, discard any customary prefixes. */
945 : :
946 : : static const char *
947 : 7424566 : strip_reg_name (const char *name)
948 : : {
949 : : #ifdef REGISTER_PREFIX
950 : : if (!strncmp (name, REGISTER_PREFIX, strlen (REGISTER_PREFIX)))
951 : : name += strlen (REGISTER_PREFIX);
952 : : #endif
953 : 7424287 : if (name[0] == '%' || name[0] == '#')
954 : 279 : name++;
955 : 7424566 : return name;
956 : : }
957 : :
958 : : /* The user has asked for a DECL to have a particular name. Set (or
959 : : change) it in such a way that we don't prefix an underscore to
960 : : it. */
961 : : void
962 : 2721519 : set_user_assembler_name (tree decl, const char *name)
963 : : {
964 : 2721519 : char *starred = (char *) alloca (strlen (name) + 2);
965 : 2721519 : starred[0] = '*';
966 : 2721519 : strcpy (starred + 1, name);
967 : 2721519 : symtab->change_decl_assembler_name (decl, get_identifier (starred));
968 : 2721519 : SET_DECL_RTL (decl, NULL_RTX);
969 : 2721519 : }
970 : :
971 : : /* Decode an `asm' spec for a declaration as a register name.
972 : : Return the register number, or -1 if nothing specified,
973 : : or -2 if the ASMSPEC is not `cc' or `memory' or `redzone' and is not
974 : : recognized,
975 : : or -3 if ASMSPEC is `cc' and is not recognized,
976 : : or -4 if ASMSPEC is `memory' and is not recognized,
977 : : or -5 if ASMSPEC is `redzone' and is not recognized.
978 : : Accept an exact spelling or a decimal number.
979 : : Prefixes such as % are optional. */
980 : :
981 : : int
982 : 96890 : decode_reg_name_and_count (const char *asmspec, int *pnregs)
983 : : {
984 : : /* Presume just one register is clobbered. */
985 : 96890 : *pnregs = 1;
986 : :
987 : 96890 : if (asmspec != 0)
988 : : {
989 : 96890 : int i;
990 : :
991 : : /* Get rid of confusing prefixes. */
992 : 96890 : asmspec = strip_reg_name (asmspec);
993 : :
994 : : /* Allow a decimal number as a "register name". */
995 : 96890 : if (ISDIGIT (asmspec[0]))
996 : : {
997 : 29 : char *pend;
998 : 29 : errno = 0;
999 : 29 : unsigned long j = strtoul (asmspec, &pend, 10);
1000 : 29 : if (*pend == '\0')
1001 : : {
1002 : 25 : static_assert (FIRST_PSEUDO_REGISTER <= INT_MAX, "");
1003 : 25 : if (errno != ERANGE
1004 : 23 : && j < FIRST_PSEUDO_REGISTER
1005 : 13 : && reg_names[j][0])
1006 : 25 : return j;
1007 : : else
1008 : : return -2;
1009 : : }
1010 : : }
1011 : :
1012 : 7392597 : for (i = 0; i < FIRST_PSEUDO_REGISTER; i++)
1013 : 7327676 : if (reg_names[i][0]
1014 : 14655352 : && ! strcmp (asmspec, strip_reg_name (reg_names[i])))
1015 : : return i;
1016 : :
1017 : : #ifdef OVERLAPPING_REGISTER_NAMES
1018 : : {
1019 : : static const struct
1020 : : {
1021 : : const char *const name;
1022 : : const int number;
1023 : : const int nregs;
1024 : : } table[] = OVERLAPPING_REGISTER_NAMES;
1025 : :
1026 : : for (i = 0; i < (int) ARRAY_SIZE (table); i++)
1027 : : if (table[i].name[0]
1028 : : && ! strcmp (asmspec, table[i].name))
1029 : : {
1030 : : *pnregs = table[i].nregs;
1031 : : return table[i].number;
1032 : : }
1033 : : }
1034 : : #endif /* OVERLAPPING_REGISTER_NAMES */
1035 : :
1036 : : #ifdef ADDITIONAL_REGISTER_NAMES
1037 : : {
1038 : : static const struct { const char *const name; const int number; } table[]
1039 : : = ADDITIONAL_REGISTER_NAMES;
1040 : :
1041 : 5169510 : for (i = 0; i < (int) ARRAY_SIZE (table); i++)
1042 : 5115366 : if (table[i].name[0]
1043 : 5115366 : && ! strcmp (asmspec, table[i].name)
1044 : 10777 : && reg_names[table[i].number][0])
1045 : : return table[i].number;
1046 : : }
1047 : : #endif /* ADDITIONAL_REGISTER_NAMES */
1048 : :
1049 : 54144 : if (!strcmp (asmspec, "redzone"))
1050 : : return -5;
1051 : :
1052 : 54142 : if (!strcmp (asmspec, "memory"))
1053 : : return -4;
1054 : :
1055 : 15753 : if (!strcmp (asmspec, "cc"))
1056 : : return -3;
1057 : :
1058 : 35 : return -2;
1059 : : }
1060 : :
1061 : : return -1;
1062 : : }
1063 : :
1064 : : int
1065 : 1203 : decode_reg_name (const char *name)
1066 : : {
1067 : 1203 : int count;
1068 : 1203 : return decode_reg_name_and_count (name, &count);
1069 : : }
1070 : :
1071 : :
1072 : : /* Return true if DECL's initializer is suitable for a BSS section. */
1073 : :
1074 : : bool
1075 : 6394314 : bss_initializer_p (const_tree decl, bool named)
1076 : : {
1077 : : /* Do not put non-common constants into the .bss section, they belong in
1078 : : a readonly section, except when NAMED is true. */
1079 : 11021215 : return ((!TREE_READONLY (decl) || DECL_COMMON (decl) || named)
1080 : 6417950 : && (DECL_INITIAL (decl) == NULL
1081 : : /* In LTO we have no errors in program; error_mark_node is used
1082 : : to mark offlined constructors. */
1083 : 644755 : || (DECL_INITIAL (decl) == error_mark_node
1084 : 4 : && !in_lto_p)
1085 : 644751 : || (flag_zero_initialized_in_bss
1086 : 644693 : && initializer_zerop (DECL_INITIAL (decl))
1087 : : /* A decl with the "persistent" attribute applied and
1088 : : explicitly initialized to 0 should not be treated as a BSS
1089 : : variable. */
1090 : 36902 : && !DECL_PERSISTENT_P (decl))));
1091 : : }
1092 : :
1093 : : /* Compute the alignment of variable specified by DECL.
1094 : : DONT_OUTPUT_DATA is from assemble_variable. */
1095 : :
1096 : : void
1097 : 5850121 : align_variable (tree decl, bool dont_output_data)
1098 : : {
1099 : 5850121 : unsigned int align = DECL_ALIGN (decl);
1100 : :
1101 : : /* In the case for initialing an array whose length isn't specified,
1102 : : where we have not yet been able to do the layout,
1103 : : figure out the proper alignment now. */
1104 : 788 : if (dont_output_data && DECL_SIZE (decl) == 0
1105 : 5850121 : && TREE_CODE (TREE_TYPE (decl)) == ARRAY_TYPE)
1106 : 0 : align = MAX (align, TYPE_ALIGN (TREE_TYPE (TREE_TYPE (decl))));
1107 : :
1108 : : /* Some object file formats have a maximum alignment which they support.
1109 : : In particular, a.out format supports a maximum alignment of 4. */
1110 : 0 : if (align > MAX_OFILE_ALIGNMENT)
1111 : : {
1112 : : error ("alignment of %q+D is greater than maximum object "
1113 : : "file alignment %d", decl,
1114 : : MAX_OFILE_ALIGNMENT/BITS_PER_UNIT);
1115 : : align = MAX_OFILE_ALIGNMENT;
1116 : : }
1117 : :
1118 : 5850121 : if (! DECL_USER_ALIGN (decl))
1119 : : {
1120 : : #ifdef DATA_ABI_ALIGNMENT
1121 : 5729019 : unsigned int data_abi_align
1122 : 5729019 : = DATA_ABI_ALIGNMENT (TREE_TYPE (decl), align);
1123 : : /* For backwards compatibility, don't assume the ABI alignment for
1124 : : TLS variables. */
1125 : 5729111 : if (! DECL_THREAD_LOCAL_P (decl) || data_abi_align <= BITS_PER_WORD)
1126 : : align = data_abi_align;
1127 : : #endif
1128 : :
1129 : : /* On some machines, it is good to increase alignment sometimes.
1130 : : But as DECL_ALIGN is used both for actually emitting the variable
1131 : : and for code accessing the variable as guaranteed alignment, we
1132 : : can only increase the alignment if it is a performance optimization
1133 : : if the references to it must bind to the current definition. */
1134 : 5729019 : if (decl_binds_to_current_def_p (decl)
1135 : 5729019 : && !DECL_VIRTUAL_P (decl))
1136 : : {
1137 : : #ifdef DATA_ALIGNMENT
1138 : 5124191 : unsigned int data_align = DATA_ALIGNMENT (TREE_TYPE (decl), align);
1139 : : /* Don't increase alignment too much for TLS variables - TLS space
1140 : : is too precious. */
1141 : 5124259 : if (! DECL_THREAD_LOCAL_P (decl) || data_align <= BITS_PER_WORD)
1142 : : align = data_align;
1143 : : #endif
1144 : 5124191 : if (DECL_INITIAL (decl) != 0
1145 : : /* In LTO we have no errors in program; error_mark_node is used
1146 : : to mark offlined constructors. */
1147 : 5124191 : && (in_lto_p || DECL_INITIAL (decl) != error_mark_node))
1148 : : {
1149 : 3203569 : unsigned int const_align
1150 : 3203569 : = targetm.constant_alignment (DECL_INITIAL (decl), align);
1151 : : /* Don't increase alignment too much for TLS variables - TLS
1152 : : space is too precious. */
1153 : 3203575 : if (! DECL_THREAD_LOCAL_P (decl) || const_align <= BITS_PER_WORD)
1154 : : align = const_align;
1155 : : }
1156 : : }
1157 : : }
1158 : :
1159 : : /* Reset the alignment in case we have made it tighter, so we can benefit
1160 : : from it in get_pointer_alignment. */
1161 : 5850121 : SET_DECL_ALIGN (decl, align);
1162 : 5850121 : }
1163 : :
1164 : : /* Return DECL_ALIGN (decl), possibly increased for optimization purposes
1165 : : beyond what align_variable returned. */
1166 : :
1167 : : static unsigned int
1168 : 5719815 : get_variable_align (tree decl)
1169 : : {
1170 : 5719815 : unsigned int align = DECL_ALIGN (decl);
1171 : :
1172 : : /* For user aligned vars or static vars align_variable already did
1173 : : everything. */
1174 : 5719815 : if (DECL_USER_ALIGN (decl) || !TREE_PUBLIC (decl))
1175 : : return align;
1176 : :
1177 : : #ifdef DATA_ABI_ALIGNMENT
1178 : 2850132 : if (DECL_THREAD_LOCAL_P (decl))
1179 : 5692 : align = DATA_ABI_ALIGNMENT (TREE_TYPE (decl), align);
1180 : : #endif
1181 : :
1182 : : /* For decls that bind to the current definition, align_variable
1183 : : did also everything, except for not assuming ABI required alignment
1184 : : of TLS variables. For other vars, increase the alignment here
1185 : : as an optimization. */
1186 : 2850132 : if (!decl_binds_to_current_def_p (decl))
1187 : : {
1188 : : /* On some machines, it is good to increase alignment sometimes. */
1189 : : #ifdef DATA_ALIGNMENT
1190 : 587982 : unsigned int data_align = DATA_ALIGNMENT (TREE_TYPE (decl), align);
1191 : : /* Don't increase alignment too much for TLS variables - TLS space
1192 : : is too precious. */
1193 : 588003 : if (! DECL_THREAD_LOCAL_P (decl) || data_align <= BITS_PER_WORD)
1194 : : align = data_align;
1195 : : #endif
1196 : 587982 : if (DECL_INITIAL (decl) != 0
1197 : : /* In LTO we have no errors in program; error_mark_node is used
1198 : : to mark offlined constructors. */
1199 : 587982 : && (in_lto_p || DECL_INITIAL (decl) != error_mark_node))
1200 : : {
1201 : 574585 : unsigned int const_align
1202 : 574585 : = targetm.constant_alignment (DECL_INITIAL (decl), align);
1203 : : /* Don't increase alignment too much for TLS variables - TLS space
1204 : : is too precious. */
1205 : 574590 : if (! DECL_THREAD_LOCAL_P (decl) || const_align <= BITS_PER_WORD)
1206 : : align = const_align;
1207 : : }
1208 : : }
1209 : :
1210 : : return align;
1211 : : }
1212 : :
1213 : : /* Compute reloc for get_variable_section. The return value
1214 : : is a mask for which bit 1 indicates a global relocation, and bit 0
1215 : : indicates a local relocation. */
1216 : :
1217 : : int
1218 : 4456668 : compute_reloc_for_var (tree decl)
1219 : : {
1220 : 4456668 : int reloc;
1221 : :
1222 : 4456668 : if (DECL_INITIAL (decl) == error_mark_node)
1223 : 2 : reloc = contains_pointers_p (TREE_TYPE (decl)) ? 3 : 0;
1224 : 4456666 : else if (DECL_INITIAL (decl))
1225 : 3329490 : reloc = compute_reloc_for_constant (DECL_INITIAL (decl));
1226 : : else
1227 : : reloc = 0;
1228 : :
1229 : 4456668 : return reloc;
1230 : : }
1231 : :
1232 : : /* Return the section into which the given VAR_DECL or CONST_DECL
1233 : : should be placed. PREFER_NOSWITCH_P is true if a noswitch
1234 : : section should be used wherever possible. */
1235 : :
1236 : : section *
1237 : 4458074 : get_variable_section (tree decl, bool prefer_noswitch_p)
1238 : : {
1239 : 4458074 : addr_space_t as = ADDR_SPACE_GENERIC;
1240 : 4458074 : int reloc;
1241 : 4458074 : varpool_node *vnode = varpool_node::get (decl);
1242 : 4458074 : if (vnode)
1243 : : {
1244 : 4458059 : vnode = vnode->ultimate_alias_target ();
1245 : 4458059 : decl = vnode->decl;
1246 : : }
1247 : :
1248 : 4458074 : if (TREE_TYPE (decl) != error_mark_node)
1249 : 4458074 : as = TYPE_ADDR_SPACE (TREE_TYPE (decl));
1250 : :
1251 : : /* We need the constructor to figure out reloc flag. */
1252 : 4458074 : if (vnode)
1253 : 4458059 : vnode->get_constructor ();
1254 : :
1255 : 4458074 : if (DECL_COMMON (decl)
1256 : 4458074 : && !lookup_attribute ("retain", DECL_ATTRIBUTES (decl)))
1257 : : {
1258 : : /* If the decl has been given an explicit section name, or it resides
1259 : : in a non-generic address space, then it isn't common, and shouldn't
1260 : : be handled as such. */
1261 : 1406 : gcc_assert (DECL_SECTION_NAME (decl) == NULL
1262 : : && ADDR_SPACE_GENERIC_P (as));
1263 : 1406 : if (DECL_THREAD_LOCAL_P (decl))
1264 : 50 : return tls_comm_section;
1265 : 1356 : else if (TREE_PUBLIC (decl) && bss_initializer_p (decl))
1266 : 1356 : return comm_section;
1267 : : }
1268 : :
1269 : 4456668 : reloc = compute_reloc_for_var (decl);
1270 : :
1271 : 4456668 : resolve_unique_section (decl, reloc, flag_data_sections);
1272 : 4456668 : if (IN_NAMED_SECTION (decl))
1273 : : {
1274 : 2946141 : section *sect = get_named_section (decl, NULL, reloc);
1275 : :
1276 : 2946141 : if ((sect->common.flags & SECTION_BSS)
1277 : 2946141 : && !bss_initializer_p (decl, true))
1278 : : {
1279 : 2 : if (flag_zero_initialized_in_bss)
1280 : 2 : error_at (DECL_SOURCE_LOCATION (decl),
1281 : : "only zero initializers are allowed in section %qs",
1282 : : sect->named.name);
1283 : : else
1284 : 0 : error_at (DECL_SOURCE_LOCATION (decl),
1285 : : "no initializers are allowed in section %qs",
1286 : : sect->named.name);
1287 : 2 : DECL_INITIAL (decl) = error_mark_node;
1288 : : }
1289 : 2946141 : return sect;
1290 : : }
1291 : :
1292 : 1510527 : if (ADDR_SPACE_GENERIC_P (as)
1293 : 1510524 : && !DECL_THREAD_LOCAL_P (decl)
1294 : 1507279 : && !DECL_NOINIT_P (decl)
1295 : 1507279 : && !(prefer_noswitch_p && targetm.have_switchable_bss_sections)
1296 : 3017806 : && bss_initializer_p (decl))
1297 : : {
1298 : 1135919 : if (!TREE_PUBLIC (decl)
1299 : 1136096 : && !((flag_sanitize & SANITIZE_ADDRESS)
1300 : 177 : && asan_protect_global (decl)))
1301 : 151508 : return lcomm_section;
1302 : 984411 : if (bss_noswitch_section)
1303 : : return bss_noswitch_section;
1304 : : }
1305 : :
1306 : 374608 : return targetm.asm_out.select_section (decl, reloc,
1307 : 749216 : get_variable_align (decl));
1308 : : }
1309 : :
1310 : : /* Return the block into which object_block DECL should be placed. */
1311 : :
1312 : : static struct object_block *
1313 : 0 : get_block_for_decl (tree decl)
1314 : : {
1315 : 0 : section *sect;
1316 : :
1317 : 0 : if (VAR_P (decl))
1318 : : {
1319 : : /* The object must be defined in this translation unit. */
1320 : 0 : if (DECL_EXTERNAL (decl))
1321 : : return NULL;
1322 : :
1323 : : /* There's no point using object blocks for something that is
1324 : : isolated by definition. */
1325 : 0 : if (DECL_COMDAT_GROUP (decl))
1326 : : return NULL;
1327 : : }
1328 : :
1329 : : /* We can only calculate block offsets if the decl has a known
1330 : : constant size. */
1331 : 0 : if (DECL_SIZE_UNIT (decl) == NULL)
1332 : : return NULL;
1333 : 0 : if (!tree_fits_uhwi_p (DECL_SIZE_UNIT (decl)))
1334 : : return NULL;
1335 : :
1336 : : /* Find out which section should contain DECL. We cannot put it into
1337 : : an object block if it requires a standalone definition. */
1338 : 0 : if (VAR_P (decl))
1339 : 0 : align_variable (decl, 0);
1340 : 0 : sect = get_variable_section (decl, true);
1341 : 0 : if (SECTION_STYLE (sect) == SECTION_NOSWITCH)
1342 : : return NULL;
1343 : :
1344 : 0 : if (bool (lookup_attribute ("retain", DECL_ATTRIBUTES (decl)))
1345 : 0 : != bool (sect->common.flags & SECTION_RETAIN))
1346 : : return NULL;
1347 : :
1348 : 0 : return get_block_for_section (sect);
1349 : : }
1350 : :
1351 : : /* Make sure block symbol SYMBOL is in block BLOCK. */
1352 : :
1353 : : static void
1354 : 0 : change_symbol_block (rtx symbol, struct object_block *block)
1355 : : {
1356 : 0 : if (block != SYMBOL_REF_BLOCK (symbol))
1357 : : {
1358 : 0 : gcc_assert (SYMBOL_REF_BLOCK_OFFSET (symbol) < 0);
1359 : 0 : SYMBOL_REF_BLOCK (symbol) = block;
1360 : : }
1361 : 0 : }
1362 : :
1363 : : /* Return true if it is possible to put DECL in an object_block. */
1364 : :
1365 : : static bool
1366 : 0 : use_blocks_for_decl_p (tree decl)
1367 : : {
1368 : 0 : struct symtab_node *snode;
1369 : :
1370 : : /* Don't create object blocks if each DECL is placed into a separate
1371 : : section because that will uselessly create a section anchor for
1372 : : each DECL. */
1373 : 0 : if (flag_data_sections)
1374 : : return false;
1375 : :
1376 : : /* Only data DECLs can be placed into object blocks. */
1377 : 0 : if (!VAR_P (decl) && TREE_CODE (decl) != CONST_DECL)
1378 : : return false;
1379 : :
1380 : : /* DECL_INITIAL (decl) set to decl is a hack used for some decls that
1381 : : are never used from code directly and we never want object block handling
1382 : : for those. */
1383 : 0 : if (DECL_INITIAL (decl) == decl)
1384 : : return false;
1385 : :
1386 : : /* If this decl is an alias, then we don't want to emit a
1387 : : definition. */
1388 : 0 : if (VAR_P (decl)
1389 : 0 : && (snode = symtab_node::get (decl)) != NULL
1390 : 0 : && snode->alias)
1391 : : return false;
1392 : :
1393 : 0 : return targetm.use_blocks_for_decl_p (decl);
1394 : : }
1395 : :
1396 : : /* Follow the IDENTIFIER_TRANSPARENT_ALIAS chain starting at *ALIAS
1397 : : until we find an identifier that is not itself a transparent alias.
1398 : : Modify the alias passed to it by reference (and all aliases on the
1399 : : way to the ultimate target), such that they do not have to be
1400 : : followed again, and return the ultimate target of the alias
1401 : : chain. */
1402 : :
1403 : : static inline tree
1404 : 35735625 : ultimate_transparent_alias_target (tree *alias)
1405 : : {
1406 : 35735625 : tree target = *alias;
1407 : :
1408 : 35735625 : if (IDENTIFIER_TRANSPARENT_ALIAS (target))
1409 : : {
1410 : 0 : gcc_assert (TREE_CHAIN (target));
1411 : 0 : target = ultimate_transparent_alias_target (&TREE_CHAIN (target));
1412 : 0 : gcc_assert (! IDENTIFIER_TRANSPARENT_ALIAS (target)
1413 : : && ! TREE_CHAIN (target));
1414 : 0 : *alias = target;
1415 : : }
1416 : :
1417 : 35735625 : return target;
1418 : : }
1419 : :
1420 : : /* Return true if REGNUM is mentioned in ELIMINABLE_REGS as a from
1421 : : register number. */
1422 : :
1423 : : static bool
1424 : 0 : eliminable_regno_p (int regnum)
1425 : : {
1426 : 0 : static const struct
1427 : : {
1428 : : const int from;
1429 : : const int to;
1430 : : } eliminables[] = ELIMINABLE_REGS;
1431 : 13 : for (size_t i = 0; i < ARRAY_SIZE (eliminables); i++)
1432 : 13 : if (regnum == eliminables[i].from)
1433 : : return true;
1434 : : return false;
1435 : : }
1436 : :
1437 : : /* Create the DECL_RTL for a VAR_DECL or FUNCTION_DECL. DECL should
1438 : : have static storage duration. In other words, it should not be an
1439 : : automatic variable, including PARM_DECLs.
1440 : :
1441 : : There is, however, one exception: this function handles variables
1442 : : explicitly placed in a particular register by the user.
1443 : :
1444 : : This is never called for PARM_DECL nodes. */
1445 : :
1446 : : void
1447 : 8363704 : make_decl_rtl (tree decl)
1448 : : {
1449 : 8363704 : const char *name = 0;
1450 : 8363704 : int reg_number;
1451 : 8363704 : tree id;
1452 : 8363704 : rtx x;
1453 : :
1454 : : /* Check that we are not being given an automatic variable. */
1455 : 8363704 : gcc_assert (TREE_CODE (decl) != PARM_DECL
1456 : : && TREE_CODE (decl) != RESULT_DECL);
1457 : :
1458 : : /* A weak alias has TREE_PUBLIC set but not the other bits. */
1459 : 8363704 : gcc_assert (!VAR_P (decl)
1460 : : || TREE_STATIC (decl)
1461 : : || TREE_PUBLIC (decl)
1462 : : || DECL_EXTERNAL (decl)
1463 : : || DECL_REGISTER (decl));
1464 : :
1465 : : /* And that we were not given a type or a label. */
1466 : 8363704 : gcc_assert (TREE_CODE (decl) != TYPE_DECL
1467 : : && TREE_CODE (decl) != LABEL_DECL);
1468 : :
1469 : : /* For a duplicate declaration, we can be called twice on the
1470 : : same DECL node. Don't discard the RTL already made. */
1471 : 8363704 : if (DECL_RTL_SET_P (decl))
1472 : : {
1473 : : /* If the old RTL had the wrong mode, fix the mode. */
1474 : 11571 : x = DECL_RTL (decl);
1475 : 11571 : if (GET_MODE (x) != DECL_MODE (decl))
1476 : 0 : SET_DECL_RTL (decl, adjust_address_nv (x, DECL_MODE (decl), 0));
1477 : :
1478 : 11571 : if (TREE_CODE (decl) != FUNCTION_DECL && DECL_REGISTER (decl))
1479 : : return;
1480 : :
1481 : : /* ??? Another way to do this would be to maintain a hashed
1482 : : table of such critters. Instead of adding stuff to a DECL
1483 : : to give certain attributes to it, we could use an external
1484 : : hash map from DECL to set of attributes. */
1485 : :
1486 : : /* Let the target reassign the RTL if it wants.
1487 : : This is necessary, for example, when one machine specific
1488 : : decl attribute overrides another. */
1489 : 11503 : targetm.encode_section_info (decl, DECL_RTL (decl), false);
1490 : :
1491 : : /* If the symbol has a SYMBOL_REF_BLOCK field, update it based
1492 : : on the new decl information. */
1493 : 11503 : if (MEM_P (x)
1494 : 11503 : && GET_CODE (XEXP (x, 0)) == SYMBOL_REF
1495 : 23006 : && SYMBOL_REF_HAS_BLOCK_INFO_P (XEXP (x, 0)))
1496 : 0 : change_symbol_block (XEXP (x, 0), get_block_for_decl (decl));
1497 : :
1498 : 11503 : return;
1499 : : }
1500 : :
1501 : : /* If this variable belongs to the global constant pool, retrieve the
1502 : : pre-computed RTL or recompute it in LTO mode. */
1503 : 8352133 : if (VAR_P (decl) && DECL_IN_CONSTANT_POOL (decl))
1504 : : {
1505 : 5143 : SET_DECL_RTL (decl, output_constant_def (DECL_INITIAL (decl), 1));
1506 : 5143 : return;
1507 : : }
1508 : :
1509 : 8346990 : id = DECL_ASSEMBLER_NAME (decl);
1510 : 8346990 : name = IDENTIFIER_POINTER (id);
1511 : :
1512 : 8291177 : if (name[0] != '*' && TREE_CODE (decl) != FUNCTION_DECL
1513 : 11439911 : && DECL_REGISTER (decl))
1514 : : {
1515 : 13 : error ("register name not specified for %q+D", decl);
1516 : : }
1517 : 8346977 : else if (TREE_CODE (decl) != FUNCTION_DECL && DECL_REGISTER (decl))
1518 : : {
1519 : 1203 : const char *asmspec = name+1;
1520 : 1203 : machine_mode mode = DECL_MODE (decl);
1521 : 1203 : reg_number = decode_reg_name (asmspec);
1522 : : /* First detect errors in declaring global registers. */
1523 : 1203 : if (reg_number == -1)
1524 : 0 : error ("register name not specified for %q+D", decl);
1525 : 1203 : else if (reg_number < 0)
1526 : 33 : error ("invalid register name for %q+D", decl);
1527 : 1170 : else if (mode == BLKmode)
1528 : 5 : error ("data type of %q+D isn%'t suitable for a register",
1529 : : decl);
1530 : 1165 : else if (!in_hard_reg_set_p (accessible_reg_set, mode, reg_number))
1531 : 2 : error ("the register specified for %q+D cannot be accessed"
1532 : : " by the current target", decl);
1533 : 1163 : else if (!in_hard_reg_set_p (operand_reg_set, mode, reg_number))
1534 : 0 : error ("the register specified for %q+D is not general enough"
1535 : : " to be used as a register variable", decl);
1536 : 1163 : else if (!targetm.hard_regno_mode_ok (reg_number, mode))
1537 : 2 : error ("register specified for %q+D isn%'t suitable for data type",
1538 : : decl);
1539 : 1161 : else if (reg_number != HARD_FRAME_POINTER_REGNUM
1540 : 1155 : && (reg_number == FRAME_POINTER_REGNUM
1541 : : #ifdef RETURN_ADDRESS_POINTER_REGNUM
1542 : : || reg_number == RETURN_ADDRESS_POINTER_REGNUM
1543 : : #endif
1544 : 1155 : || reg_number == ARG_POINTER_REGNUM)
1545 : 1166 : && eliminable_regno_p (reg_number))
1546 : 5 : error ("register specified for %q+D is an internal GCC "
1547 : : "implementation detail", decl);
1548 : : /* Now handle properly declared static register variables. */
1549 : : else
1550 : : {
1551 : 1156 : int nregs;
1552 : :
1553 : 1156 : if (DECL_INITIAL (decl) != 0 && TREE_STATIC (decl))
1554 : : {
1555 : 0 : DECL_INITIAL (decl) = 0;
1556 : 0 : error ("global register variable has initial value");
1557 : : }
1558 : 1156 : if (TREE_THIS_VOLATILE (decl))
1559 : 10 : warning (OPT_Wvolatile_register_var,
1560 : : "optimization may eliminate reads and/or "
1561 : : "writes to register variables");
1562 : :
1563 : : /* If the user specified one of the eliminables registers here,
1564 : : e.g., FRAME_POINTER_REGNUM, we don't want to get this variable
1565 : : confused with that register and be eliminated. This usage is
1566 : : somewhat suspect... */
1567 : :
1568 : 1156 : SET_DECL_RTL (decl, gen_raw_REG (mode, reg_number));
1569 : 1156 : ORIGINAL_REGNO (DECL_RTL (decl)) = reg_number;
1570 : 1156 : REG_USERVAR_P (DECL_RTL (decl)) = 1;
1571 : :
1572 : 1156 : if (TREE_STATIC (decl))
1573 : : {
1574 : : /* Make this register global, so not usable for anything
1575 : : else. */
1576 : : #ifdef ASM_DECLARE_REGISTER_GLOBAL
1577 : : name = IDENTIFIER_POINTER (DECL_NAME (decl));
1578 : : ASM_DECLARE_REGISTER_GLOBAL (asm_out_file, decl, reg_number, name);
1579 : : #endif
1580 : 109 : nregs = hard_regno_nregs (reg_number, mode);
1581 : 218 : while (nregs > 0)
1582 : 109 : globalize_reg (decl, reg_number + --nregs);
1583 : : }
1584 : :
1585 : : /* As a register variable, it has no section. */
1586 : 1156 : return;
1587 : : }
1588 : : /* Avoid internal errors from invalid register
1589 : : specifications. */
1590 : 47 : SET_DECL_ASSEMBLER_NAME (decl, NULL_TREE);
1591 : 47 : DECL_HARD_REGISTER (decl) = 0;
1592 : : /* Also avoid SSA inconsistencies by pretending this is an external
1593 : : decl now. */
1594 : 47 : DECL_EXTERNAL (decl) = 1;
1595 : 47 : return;
1596 : : }
1597 : : /* Now handle ordinary static variables and functions (in memory).
1598 : : Also handle vars declared register invalidly. */
1599 : : else if (name[0] == '*')
1600 : : {
1601 : : #ifdef REGISTER_PREFIX
1602 : : if (strlen (REGISTER_PREFIX) != 0)
1603 : : {
1604 : : reg_number = decode_reg_name (name);
1605 : : if (reg_number >= 0 || reg_number == -3)
1606 : : error ("register name given for non-register variable %q+D", decl);
1607 : : }
1608 : : #endif
1609 : : }
1610 : :
1611 : : /* Specifying a section attribute on a variable forces it into a
1612 : : non-.bss section, and thus it cannot be common. */
1613 : : /* FIXME: In general this code should not be necessary because
1614 : : visibility pass is doing the same work. But notice_global_symbol
1615 : : is called early and it needs to make DECL_RTL to get the name.
1616 : : we take care of recomputing the DECL_RTL after visibility is changed. */
1617 : 8345787 : if (VAR_P (decl)
1618 : 3129344 : && (TREE_STATIC (decl) || DECL_EXTERNAL (decl))
1619 : 3129344 : && DECL_SECTION_NAME (decl) != NULL
1620 : 1431283 : && DECL_INITIAL (decl) == NULL_TREE
1621 : 8345902 : && DECL_COMMON (decl))
1622 : 0 : DECL_COMMON (decl) = 0;
1623 : :
1624 : : /* Variables can't be both common and weak. */
1625 : 8345787 : if (VAR_P (decl) && DECL_WEAK (decl))
1626 : 317191 : DECL_COMMON (decl) = 0;
1627 : :
1628 : 8345787 : if (use_object_blocks_p () && use_blocks_for_decl_p (decl))
1629 : 0 : x = create_block_symbol (name, get_block_for_decl (decl), -1);
1630 : : else
1631 : : {
1632 : 8345787 : machine_mode address_mode = Pmode;
1633 : 8345787 : if (TREE_TYPE (decl) != error_mark_node)
1634 : : {
1635 : 8345787 : addr_space_t as = TYPE_ADDR_SPACE (TREE_TYPE (decl));
1636 : 8345787 : address_mode = targetm.addr_space.address_mode (as);
1637 : : }
1638 : 8345787 : x = gen_rtx_SYMBOL_REF (address_mode, name);
1639 : : }
1640 : 8345787 : SYMBOL_REF_WEAK (x) = DECL_WEAK (decl);
1641 : 8345787 : SET_SYMBOL_REF_DECL (x, decl);
1642 : :
1643 : 8345787 : x = gen_rtx_MEM (DECL_MODE (decl), x);
1644 : 8345787 : if (TREE_CODE (decl) != FUNCTION_DECL)
1645 : 3129344 : set_mem_attributes (x, decl, 1);
1646 : 8345787 : SET_DECL_RTL (decl, x);
1647 : :
1648 : : /* Optionally set flags or add text to the name to record information
1649 : : such as that it is a function name.
1650 : : If the name is changed, the macro ASM_OUTPUT_LABELREF
1651 : : will have to know how to strip this information. */
1652 : 8345787 : targetm.encode_section_info (decl, DECL_RTL (decl), true);
1653 : : }
1654 : :
1655 : : /* Like make_decl_rtl, but inhibit creation of new alias sets when
1656 : : calling make_decl_rtl. Also, reset DECL_RTL before returning the
1657 : : rtl. */
1658 : :
1659 : : rtx
1660 : 21556 : make_decl_rtl_for_debug (tree decl)
1661 : : {
1662 : 21556 : unsigned int save_aliasing_flag;
1663 : 21556 : rtx rtl;
1664 : :
1665 : 21556 : if (DECL_RTL_SET_P (decl))
1666 : 0 : return DECL_RTL (decl);
1667 : :
1668 : : /* Kludge alert! Somewhere down the call chain, make_decl_rtl will
1669 : : call new_alias_set. If running with -fcompare-debug, sometimes
1670 : : we do not want to create alias sets that will throw the alias
1671 : : numbers off in the comparison dumps. So... clearing
1672 : : flag_strict_aliasing will keep new_alias_set() from creating a
1673 : : new set. */
1674 : 21556 : save_aliasing_flag = flag_strict_aliasing;
1675 : 21556 : flag_strict_aliasing = 0;
1676 : :
1677 : 21556 : rtl = DECL_RTL (decl);
1678 : : /* Reset DECL_RTL back, as various parts of the compiler expects
1679 : : DECL_RTL set meaning it is actually going to be output. */
1680 : 21556 : SET_DECL_RTL (decl, NULL);
1681 : :
1682 : 21556 : flag_strict_aliasing = save_aliasing_flag;
1683 : 21556 : return rtl;
1684 : : }
1685 : :
1686 : : /* Output a string of literal assembler code
1687 : : for an `asm' keyword used between functions. */
1688 : :
1689 : : void
1690 : 12295 : assemble_asm (tree asm_str)
1691 : : {
1692 : 12295 : const char *p;
1693 : :
1694 : 12295 : if (TREE_CODE (asm_str) != ASM_EXPR)
1695 : : {
1696 : 12259 : app_enable ();
1697 : 12259 : if (TREE_CODE (asm_str) == ADDR_EXPR)
1698 : 0 : asm_str = TREE_OPERAND (asm_str, 0);
1699 : :
1700 : 12259 : p = TREE_STRING_POINTER (asm_str);
1701 : 24488 : fprintf (asm_out_file, "%s%s\n", p[0] == '\t' ? "" : "\t", p);
1702 : : }
1703 : : else
1704 : : {
1705 : 36 : location_t save_loc = input_location;
1706 : 36 : int save_reload_completed = reload_completed;
1707 : 36 : int save_cse_not_expected = cse_not_expected;
1708 : 36 : input_location = EXPR_LOCATION (asm_str);
1709 : 36 : int noutputs = list_length (ASM_OUTPUTS (asm_str));
1710 : 36 : int ninputs = list_length (ASM_INPUTS (asm_str));
1711 : 36 : const char **constraints = NULL;
1712 : 36 : int i;
1713 : 36 : tree tail;
1714 : 36 : bool allows_mem, allows_reg, is_inout;
1715 : 36 : rtx *ops = NULL;
1716 : 36 : if (noutputs + ninputs > MAX_RECOG_OPERANDS)
1717 : : {
1718 : 0 : error ("more than %d operands in %<asm%>", MAX_RECOG_OPERANDS);
1719 : 0 : goto done;
1720 : : }
1721 : 36 : constraints = XALLOCAVEC (const char *, noutputs + ninputs);
1722 : 36 : ops = XALLOCAVEC (rtx, noutputs + ninputs);
1723 : 36 : memset (&recog_data, 0, sizeof (recog_data));
1724 : 36 : recog_data.n_operands = ninputs + noutputs;
1725 : 36 : recog_data.is_asm = true;
1726 : 36 : reload_completed = 0;
1727 : 36 : cse_not_expected = 1;
1728 : 40 : for (i = 0, tail = ASM_OUTPUTS (asm_str); tail;
1729 : 4 : ++i, tail = TREE_CHAIN (tail))
1730 : : {
1731 : 16 : tree output = TREE_VALUE (tail);
1732 : 16 : if (output == error_mark_node)
1733 : 0 : goto done;
1734 : 32 : constraints[i]
1735 : 16 : = TREE_STRING_POINTER (TREE_VALUE (TREE_PURPOSE (tail)));
1736 : 16 : if (!parse_output_constraint (&constraints[i], i, ninputs, noutputs,
1737 : : &allows_mem, &allows_reg, &is_inout))
1738 : 0 : goto done;
1739 : 16 : if (is_inout)
1740 : : {
1741 : 4 : error ("%qc in output operand outside of a function", '+');
1742 : 4 : goto done;
1743 : : }
1744 : 12 : if (strchr (constraints[i], '&'))
1745 : : {
1746 : 4 : error ("%qc in output operand outside of a function", '&');
1747 : 4 : goto done;
1748 : : }
1749 : 8 : if (strchr (constraints[i], '%'))
1750 : : {
1751 : 4 : error ("%qc in output operand outside of a function", '%');
1752 : 4 : goto done;
1753 : : }
1754 : 4 : output_addressed_constants (output, 0);
1755 : 4 : if (!is_gimple_addressable (output))
1756 : : {
1757 : 0 : error ("output number %d not directly addressable", i);
1758 : 0 : goto done;
1759 : : }
1760 : 4 : ops[i] = expand_expr (build_fold_addr_expr (output), NULL_RTX,
1761 : : VOIDmode, EXPAND_INITIALIZER);
1762 : 4 : ops[i] = gen_rtx_MEM (TYPE_MODE (TREE_TYPE (output)), ops[i]);
1763 : :
1764 : 4 : recog_data.operand[i] = ops[i];
1765 : 4 : recog_data.operand_loc[i] = &ops[i];
1766 : 4 : recog_data.constraints[i] = constraints[i];
1767 : 4 : recog_data.operand_mode[i] = TYPE_MODE (TREE_TYPE (output));
1768 : : }
1769 : 108 : for (i = 0, tail = ASM_INPUTS (asm_str); tail;
1770 : 84 : ++i, tail = TREE_CHAIN (tail))
1771 : : {
1772 : 88 : tree input = TREE_VALUE (tail);
1773 : 88 : if (input == error_mark_node)
1774 : 0 : goto done;
1775 : 176 : constraints[i + noutputs]
1776 : 88 : = TREE_STRING_POINTER (TREE_VALUE (TREE_PURPOSE (tail)));
1777 : 88 : if (!parse_input_constraint (&constraints[i + noutputs], i,
1778 : : ninputs, noutputs, 0, constraints,
1779 : : &allows_mem, &allows_reg))
1780 : 0 : goto done;
1781 : 88 : if (strchr (constraints[i], '%'))
1782 : : {
1783 : 4 : error ("%qc in input operand outside of a function", '%');
1784 : 4 : goto done;
1785 : : }
1786 : 84 : const char *constraint = constraints[i + noutputs];
1787 : 84 : size_t c_len = strlen (constraint);
1788 : 188 : for (size_t j = 0; j < c_len;
1789 : 104 : j += CONSTRAINT_LEN (constraint[j], constraint + j))
1790 : 104 : if (constraint[j] >= '0' && constraint[j] <= '9')
1791 : : {
1792 : 0 : error ("matching constraint outside of a function");
1793 : 0 : goto done;
1794 : : }
1795 : 84 : output_addressed_constants (input, 0);
1796 : 84 : if (allows_mem && is_gimple_addressable (input))
1797 : : {
1798 : 8 : ops[i + noutputs]
1799 : 8 : = expand_expr (build_fold_addr_expr (input), NULL_RTX,
1800 : : VOIDmode, EXPAND_INITIALIZER);
1801 : 8 : ops[i + noutputs] = gen_rtx_MEM (TYPE_MODE (TREE_TYPE (input)),
1802 : : ops[i + noutputs]);
1803 : : }
1804 : : else
1805 : 76 : ops[i + noutputs] = expand_expr (input, NULL_RTX, VOIDmode,
1806 : : EXPAND_INITIALIZER);
1807 : 84 : if (asm_operand_ok (ops[i + noutputs], constraint, NULL) <= 0)
1808 : : {
1809 : 0 : if (!allows_mem)
1810 : 0 : warning (0, "%<asm%> operand %d probably does not "
1811 : : "match constraints", i + noutputs);
1812 : : }
1813 : 84 : recog_data.operand[i + noutputs] = ops[i + noutputs];
1814 : 84 : recog_data.operand_loc[i + noutputs] = &ops[i + noutputs];
1815 : 84 : recog_data.constraints[i + noutputs] = constraints[i + noutputs];
1816 : 84 : recog_data.operand_mode[i + noutputs]
1817 : 84 : = TYPE_MODE (TREE_TYPE (input));
1818 : : }
1819 : 20 : if (recog_data.n_operands > 0)
1820 : : {
1821 : 20 : const char *p = recog_data.constraints[0];
1822 : 20 : recog_data.n_alternatives = 1;
1823 : 44 : while (*p)
1824 : 24 : recog_data.n_alternatives += (*p++ == ',');
1825 : : }
1826 : 108 : for (i = 0; i < recog_data.n_operands; i++)
1827 : 88 : recog_data.operand_type[i]
1828 : 172 : = recog_data.constraints[i][0] == '=' ? OP_OUT : OP_IN;
1829 : 20 : reload_completed = 1;
1830 : 20 : constrain_operands (1, ALL_ALTERNATIVES);
1831 : 20 : if (which_alternative < 0)
1832 : : {
1833 : 0 : error ("impossible constraint in %<asm%>");
1834 : 0 : goto done;
1835 : : }
1836 : 20 : this_is_asm_operands = make_insn_raw (gen_nop ());
1837 : 20 : insn_noperands = recog_data.n_operands;
1838 : 20 : if (TREE_STRING_POINTER (ASM_STRING (asm_str))[0])
1839 : : {
1840 : 20 : app_enable ();
1841 : 20 : output_asm_insn (TREE_STRING_POINTER (ASM_STRING (asm_str)), ops);
1842 : : }
1843 : 20 : insn_noperands = 0;
1844 : 20 : this_is_asm_operands = NULL;
1845 : :
1846 : 36 : done:
1847 : 36 : input_location = save_loc;
1848 : 36 : reload_completed = save_reload_completed;
1849 : 36 : cse_not_expected = save_cse_not_expected;
1850 : : }
1851 : 12295 : }
1852 : :
1853 : : /* Write the address of the entity given by SYMBOL to SEC. */
1854 : : void
1855 : 22317 : assemble_addr_to_section (rtx symbol, section *sec)
1856 : : {
1857 : 22317 : switch_to_section (sec);
1858 : 22702 : assemble_align (POINTER_SIZE);
1859 : 23087 : assemble_integer (symbol, POINTER_SIZE_UNITS, POINTER_SIZE, 1);
1860 : 22317 : }
1861 : :
1862 : : /* Return the numbered .ctors.N (if CONSTRUCTOR_P) or .dtors.N (if
1863 : : not) section for PRIORITY. */
1864 : : section *
1865 : 0 : get_cdtor_priority_section (int priority, bool constructor_p)
1866 : : {
1867 : : /* Buffer conservatively large enough for the full range of a 32-bit
1868 : : int plus the text below. */
1869 : 0 : char buf[18];
1870 : :
1871 : : /* ??? This only works reliably with the GNU linker. */
1872 : 0 : sprintf (buf, "%s.%.5u",
1873 : : constructor_p ? ".ctors" : ".dtors",
1874 : : /* Invert the numbering so the linker puts us in the proper
1875 : : order; constructors are run from right to left, and the
1876 : : linker sorts in increasing order. */
1877 : : MAX_INIT_PRIORITY - priority);
1878 : 0 : return get_section (buf, SECTION_WRITE, NULL);
1879 : : }
1880 : :
1881 : : void
1882 : 0 : default_named_section_asm_out_destructor (rtx symbol, int priority)
1883 : : {
1884 : 0 : section *sec;
1885 : :
1886 : 0 : if (priority != DEFAULT_INIT_PRIORITY)
1887 : 0 : sec = get_cdtor_priority_section (priority,
1888 : : /*constructor_p=*/false);
1889 : : else
1890 : 0 : sec = get_section (".dtors", SECTION_WRITE, NULL);
1891 : :
1892 : 0 : assemble_addr_to_section (symbol, sec);
1893 : 0 : }
1894 : :
1895 : : #ifdef DTORS_SECTION_ASM_OP
1896 : : void
1897 : : default_dtor_section_asm_out_destructor (rtx symbol,
1898 : : int priority ATTRIBUTE_UNUSED)
1899 : : {
1900 : : assemble_addr_to_section (symbol, dtors_section);
1901 : : }
1902 : : #endif
1903 : :
1904 : : void
1905 : 0 : default_named_section_asm_out_constructor (rtx symbol, int priority)
1906 : : {
1907 : 0 : section *sec;
1908 : :
1909 : 0 : if (priority != DEFAULT_INIT_PRIORITY)
1910 : 0 : sec = get_cdtor_priority_section (priority,
1911 : : /*constructor_p=*/true);
1912 : : else
1913 : 0 : sec = get_section (".ctors", SECTION_WRITE, NULL);
1914 : :
1915 : 0 : assemble_addr_to_section (symbol, sec);
1916 : 0 : }
1917 : :
1918 : : #ifdef CTORS_SECTION_ASM_OP
1919 : : void
1920 : : default_ctor_section_asm_out_constructor (rtx symbol,
1921 : : int priority ATTRIBUTE_UNUSED)
1922 : : {
1923 : : assemble_addr_to_section (symbol, ctors_section);
1924 : : }
1925 : : #endif
1926 : :
1927 : : /* CONSTANT_POOL_BEFORE_FUNCTION may be defined as an expression with
1928 : : a nonzero value if the constant pool should be output before the
1929 : : start of the function, or a zero value if the pool should output
1930 : : after the end of the function. The default is to put it before the
1931 : : start. */
1932 : :
1933 : : #ifndef CONSTANT_POOL_BEFORE_FUNCTION
1934 : : #define CONSTANT_POOL_BEFORE_FUNCTION 1
1935 : : #endif
1936 : :
1937 : : /* DECL is an object (either VAR_DECL or FUNCTION_DECL) which is going
1938 : : to be output to assembler.
1939 : : Set first_global_object_name and weak_global_object_name as appropriate. */
1940 : :
1941 : : void
1942 : 97581312 : notice_global_symbol (tree decl)
1943 : : {
1944 : 97581312 : const char **t = &first_global_object_name;
1945 : :
1946 : 97581312 : if (first_global_object_name
1947 : 70719903 : || !TREE_PUBLIC (decl)
1948 : 69845232 : || DECL_EXTERNAL (decl)
1949 : 15351903 : || !DECL_NAME (decl)
1950 : 15351852 : || (VAR_P (decl) && DECL_HARD_REGISTER (decl))
1951 : 112933124 : || (TREE_CODE (decl) != FUNCTION_DECL
1952 : 9379688 : && (!VAR_P (decl)
1953 : 9379688 : || (DECL_COMMON (decl)
1954 : 8979 : && (DECL_INITIAL (decl) == 0
1955 : 8773 : || DECL_INITIAL (decl) == error_mark_node)))))
1956 : : return;
1957 : :
1958 : : /* We win when global object is found, but it is useful to know about weak
1959 : : symbol as well so we can produce nicer unique names. */
1960 : 15351606 : if (DECL_WEAK (decl) || DECL_ONE_ONLY (decl) || flag_shlib)
1961 : : t = &weak_global_object_name;
1962 : :
1963 : 15351606 : if (!*t)
1964 : : {
1965 : 266115 : tree id = DECL_ASSEMBLER_NAME (decl);
1966 : 266115 : ultimate_transparent_alias_target (&id);
1967 : 266115 : *t = ggc_strdup (targetm.strip_name_encoding (IDENTIFIER_POINTER (id)));
1968 : : }
1969 : : }
1970 : :
1971 : : /* If not using flag_reorder_blocks_and_partition, decide early whether the
1972 : : current function goes into the cold section, so that targets can use
1973 : : current_function_section during RTL expansion. DECL describes the
1974 : : function. */
1975 : :
1976 : : void
1977 : 1422149 : decide_function_section (tree decl)
1978 : : {
1979 : 1422149 : first_function_block_is_cold = false;
1980 : :
1981 : 1422149 : if (DECL_SECTION_NAME (decl))
1982 : : {
1983 : 9236 : struct cgraph_node *node = cgraph_node::get (current_function_decl);
1984 : : /* Calls to function_section rely on first_function_block_is_cold
1985 : : being accurate. */
1986 : 9236 : first_function_block_is_cold = (node
1987 : 9236 : && node->frequency
1988 : 9236 : == NODE_FREQUENCY_UNLIKELY_EXECUTED);
1989 : : }
1990 : :
1991 : 1422149 : in_cold_section_p = first_function_block_is_cold;
1992 : 1422149 : }
1993 : :
1994 : : /* Get the function's name, as described by its RTL. This may be
1995 : : different from the DECL_NAME name used in the source file. */
1996 : : const char *
1997 : 1486831 : get_fnname_from_decl (tree decl)
1998 : : {
1999 : 1486831 : rtx x = DECL_RTL (decl);
2000 : 1486831 : gcc_assert (MEM_P (x));
2001 : 1486831 : x = XEXP (x, 0);
2002 : 1486831 : gcc_assert (GET_CODE (x) == SYMBOL_REF);
2003 : 1486831 : return XSTR (x, 0);
2004 : : }
2005 : :
2006 : : /* Output function label, possibly with accompanying metadata. No additional
2007 : : code or data is output after the label. */
2008 : :
2009 : : void
2010 : 1481415 : assemble_function_label_raw (FILE *file, const char *name)
2011 : : {
2012 : 1481415 : ASM_OUTPUT_LABEL (file, name);
2013 : 1481415 : assemble_function_label_final ();
2014 : 1481415 : }
2015 : :
2016 : : /* Finish outputting function label. Needs to be called when outputting
2017 : : function label without using assemble_function_label_raw (). */
2018 : :
2019 : : void
2020 : 1481415 : assemble_function_label_final (void)
2021 : : {
2022 : 1481415 : if ((flag_sanitize & SANITIZE_ADDRESS)
2023 : : /* Notify ASAN only about the first function label. */
2024 : 5947 : && (in_cold_section_p == first_function_block_is_cold)
2025 : : /* Do not notify ASAN when called from, e.g., code_end (). */
2026 : 5827 : && cfun)
2027 : 5827 : asan_function_start ();
2028 : 1481415 : }
2029 : :
2030 : : /* Output assembler code for the constant pool of a function and associated
2031 : : with defining the name of the function. DECL describes the function.
2032 : : NAME is the function's name. For the constant pool, we use the current
2033 : : constant pool data. */
2034 : :
2035 : : void
2036 : 1417414 : assemble_start_function (tree decl, const char *fnname)
2037 : : {
2038 : 1417414 : int align;
2039 : 1417414 : char tmp_label[100];
2040 : 1417414 : bool hot_label_written = false;
2041 : :
2042 : 1417414 : if (crtl->has_bb_partition)
2043 : : {
2044 : 60024 : ASM_GENERATE_INTERNAL_LABEL (tmp_label, "LHOTB", const_labelno);
2045 : 60024 : crtl->subsections.hot_section_label = ggc_strdup (tmp_label);
2046 : 60024 : ASM_GENERATE_INTERNAL_LABEL (tmp_label, "LCOLDB", const_labelno);
2047 : 60024 : crtl->subsections.cold_section_label = ggc_strdup (tmp_label);
2048 : 60024 : ASM_GENERATE_INTERNAL_LABEL (tmp_label, "LHOTE", const_labelno);
2049 : 60024 : crtl->subsections.hot_section_end_label = ggc_strdup (tmp_label);
2050 : 60024 : ASM_GENERATE_INTERNAL_LABEL (tmp_label, "LCOLDE", const_labelno);
2051 : 60024 : crtl->subsections.cold_section_end_label = ggc_strdup (tmp_label);
2052 : 60024 : const_labelno++;
2053 : 60024 : cold_function_name = NULL_TREE;
2054 : : }
2055 : : else
2056 : : {
2057 : 1357390 : crtl->subsections.hot_section_label = NULL;
2058 : 1357390 : crtl->subsections.cold_section_label = NULL;
2059 : 1357390 : crtl->subsections.hot_section_end_label = NULL;
2060 : 1357390 : crtl->subsections.cold_section_end_label = NULL;
2061 : : }
2062 : :
2063 : : /* The following code does not need preprocessing in the assembler. */
2064 : :
2065 : 1417414 : app_disable ();
2066 : :
2067 : 1417414 : if (CONSTANT_POOL_BEFORE_FUNCTION)
2068 : 1417414 : output_constant_pool (fnname, decl);
2069 : :
2070 : 1417414 : align = symtab_node::get (decl)->definition_alignment ();
2071 : :
2072 : : /* Make sure the not and cold text (code) sections are properly
2073 : : aligned. This is necessary here in the case where the function
2074 : : has both hot and cold sections, because we don't want to re-set
2075 : : the alignment when the section switch happens mid-function. */
2076 : :
2077 : 1417414 : if (crtl->has_bb_partition)
2078 : : {
2079 : 60024 : first_function_block_is_cold = false;
2080 : :
2081 : 60024 : switch_to_section (unlikely_text_section ());
2082 : 60024 : assemble_align (align);
2083 : 60024 : ASM_OUTPUT_LABEL (asm_out_file, crtl->subsections.cold_section_label);
2084 : :
2085 : : /* When the function starts with a cold section, we need to explicitly
2086 : : align the hot section and write out the hot section label.
2087 : : But if the current function is a thunk, we do not have a CFG. */
2088 : 60024 : if (!cfun->is_thunk
2089 : 60024 : && BB_PARTITION (ENTRY_BLOCK_PTR_FOR_FN (cfun)->next_bb) == BB_COLD_PARTITION)
2090 : : {
2091 : 0 : switch_to_section (text_section);
2092 : 0 : assemble_align (align);
2093 : 0 : ASM_OUTPUT_LABEL (asm_out_file, crtl->subsections.hot_section_label);
2094 : 0 : hot_label_written = true;
2095 : 0 : first_function_block_is_cold = true;
2096 : : }
2097 : 60024 : in_cold_section_p = first_function_block_is_cold;
2098 : : }
2099 : :
2100 : :
2101 : : /* Switch to the correct text section for the start of the function. */
2102 : :
2103 : 1417414 : switch_to_section (function_section (decl), decl);
2104 : 1417414 : if (crtl->has_bb_partition && !hot_label_written)
2105 : 60024 : ASM_OUTPUT_LABEL (asm_out_file, crtl->subsections.hot_section_label);
2106 : :
2107 : : /* Tell assembler to move to target machine's alignment for functions. */
2108 : 1417414 : align = floor_log2 (align / BITS_PER_UNIT);
2109 : : /* Handle forced alignment. This really ought to apply to all functions,
2110 : : since it is used by patchable entries. */
2111 : 1417414 : if (flag_min_function_alignment)
2112 : 0 : align = MAX (align, floor_log2 (flag_min_function_alignment));
2113 : :
2114 : 1417414 : if (align > 0)
2115 : : {
2116 : 156503 : ASM_OUTPUT_ALIGN (asm_out_file, align);
2117 : : }
2118 : :
2119 : : /* Handle a user-specified function alignment.
2120 : : Note that we still need to align to DECL_ALIGN, as above,
2121 : : because ASM_OUTPUT_MAX_SKIP_ALIGN might not do any alignment at all. */
2122 : 1417414 : if (! DECL_USER_ALIGN (decl)
2123 : 1417380 : && align_functions.levels[0].log > align
2124 : 2299371 : && optimize_function_for_speed_p (cfun))
2125 : : {
2126 : : #ifdef ASM_OUTPUT_MAX_SKIP_ALIGN
2127 : 863940 : int align_log = align_functions.levels[0].log;
2128 : : #endif
2129 : 863940 : int max_skip = align_functions.levels[0].maxskip;
2130 : 863940 : if (flag_limit_function_alignment && crtl->max_insn_address > 0
2131 : 1 : && max_skip >= crtl->max_insn_address)
2132 : 1 : max_skip = crtl->max_insn_address - 1;
2133 : :
2134 : : #ifdef ASM_OUTPUT_MAX_SKIP_ALIGN
2135 : 863940 : ASM_OUTPUT_MAX_SKIP_ALIGN (asm_out_file, align_log, max_skip);
2136 : 863940 : if (max_skip == align_functions.levels[0].maxskip)
2137 : 863939 : ASM_OUTPUT_MAX_SKIP_ALIGN (asm_out_file,
2138 : : align_functions.levels[1].log,
2139 : : align_functions.levels[1].maxskip);
2140 : : #else
2141 : : ASM_OUTPUT_ALIGN (asm_out_file, align_functions.levels[0].log);
2142 : : #endif
2143 : : }
2144 : :
2145 : : #ifdef ASM_OUTPUT_FUNCTION_PREFIX
2146 : : ASM_OUTPUT_FUNCTION_PREFIX (asm_out_file, fnname);
2147 : : #endif
2148 : :
2149 : 1417414 : if (!DECL_IGNORED_P (decl))
2150 : 1393919 : (*debug_hooks->begin_function) (decl);
2151 : :
2152 : : /* Make function name accessible from other files, if appropriate. */
2153 : :
2154 : 1417414 : if (TREE_PUBLIC (decl))
2155 : : {
2156 : 1165105 : notice_global_symbol (decl);
2157 : :
2158 : 1165105 : globalize_decl (decl);
2159 : :
2160 : 1165105 : maybe_assemble_visibility (decl);
2161 : : }
2162 : :
2163 : 1417414 : if (DECL_PRESERVE_P (decl))
2164 : 4079 : targetm.asm_out.mark_decl_preserved (fnname);
2165 : :
2166 : 1417414 : unsigned short patch_area_size = crtl->patch_area_size;
2167 : 1417414 : unsigned short patch_area_entry = crtl->patch_area_entry;
2168 : :
2169 : : /* Emit the patching area before the entry label, if any. */
2170 : 1417414 : if (patch_area_entry > 0)
2171 : 8 : targetm.asm_out.print_patchable_function_entry (asm_out_file,
2172 : : patch_area_entry, true);
2173 : :
2174 : : /* Do any machine/system dependent processing of the function name. */
2175 : : #ifdef ASM_DECLARE_FUNCTION_NAME
2176 : 1417414 : ASM_DECLARE_FUNCTION_NAME (asm_out_file, fnname, current_function_decl);
2177 : : #else
2178 : : /* Standard thing is just output label for the function. */
2179 : : ASM_OUTPUT_FUNCTION_LABEL (asm_out_file, fnname, current_function_decl);
2180 : : #endif /* ASM_DECLARE_FUNCTION_NAME */
2181 : :
2182 : : /* And the area after the label. Record it if we haven't done so yet. */
2183 : 1417414 : if (patch_area_size > patch_area_entry)
2184 : 51 : targetm.asm_out.print_patchable_function_entry (asm_out_file,
2185 : 51 : patch_area_size
2186 : 51 : - patch_area_entry,
2187 : : patch_area_entry == 0);
2188 : :
2189 : 1417414 : if (lookup_attribute ("no_split_stack", DECL_ATTRIBUTES (decl)))
2190 : 2458 : saw_no_split_stack = true;
2191 : 1417414 : }
2192 : :
2193 : : /* Output assembler code associated with defining the size of the
2194 : : function. DECL describes the function. NAME is the function's name. */
2195 : :
2196 : : void
2197 : 1417414 : assemble_end_function (tree decl, const char *fnname ATTRIBUTE_UNUSED)
2198 : : {
2199 : : #ifdef ASM_DECLARE_FUNCTION_SIZE
2200 : : /* We could have switched section in the middle of the function. */
2201 : 1417414 : if (crtl->has_bb_partition)
2202 : 60024 : switch_to_section (function_section (decl));
2203 : 1417414 : ASM_DECLARE_FUNCTION_SIZE (asm_out_file, fnname, decl);
2204 : : #endif
2205 : 1417414 : if (! CONSTANT_POOL_BEFORE_FUNCTION)
2206 : : {
2207 : : output_constant_pool (fnname, decl);
2208 : : switch_to_section (function_section (decl)); /* need to switch back */
2209 : : }
2210 : : /* Output labels for end of hot/cold text sections (to be used by
2211 : : debug info.) */
2212 : 1417414 : if (crtl->has_bb_partition)
2213 : : {
2214 : 60024 : section *save_text_section;
2215 : :
2216 : 60024 : save_text_section = in_section;
2217 : 60024 : switch_to_section (unlikely_text_section ());
2218 : : #ifdef ASM_DECLARE_COLD_FUNCTION_SIZE
2219 : 60024 : if (cold_function_name != NULL_TREE)
2220 : 60024 : ASM_DECLARE_COLD_FUNCTION_SIZE (asm_out_file,
2221 : : IDENTIFIER_POINTER (cold_function_name),
2222 : : decl);
2223 : : #endif
2224 : 60024 : ASM_OUTPUT_LABEL (asm_out_file, crtl->subsections.cold_section_end_label);
2225 : 60024 : if (first_function_block_is_cold)
2226 : 0 : switch_to_section (text_section);
2227 : : else
2228 : 60024 : switch_to_section (function_section (decl));
2229 : 60024 : ASM_OUTPUT_LABEL (asm_out_file, crtl->subsections.hot_section_end_label);
2230 : 60024 : switch_to_section (save_text_section);
2231 : : }
2232 : 1417414 : }
2233 : :
2234 : : /* Assemble code to leave SIZE bytes of zeros. */
2235 : :
2236 : : void
2237 : 1038301 : assemble_zeros (unsigned HOST_WIDE_INT size)
2238 : : {
2239 : : /* Do no output if -fsyntax-only. */
2240 : 1038301 : if (flag_syntax_only)
2241 : : return;
2242 : :
2243 : : #ifdef ASM_NO_SKIP_IN_TEXT
2244 : : /* The `space' pseudo in the text section outputs nop insns rather than 0s,
2245 : : so we must output 0s explicitly in the text section. */
2246 : 1038301 : if (ASM_NO_SKIP_IN_TEXT && (in_section->common.flags & SECTION_CODE) != 0)
2247 : : {
2248 : : unsigned HOST_WIDE_INT i;
2249 : 0 : for (i = 0; i < size; i++)
2250 : 0 : assemble_integer (const0_rtx, 1, BITS_PER_UNIT, 1);
2251 : : }
2252 : : else
2253 : : #endif
2254 : 1038301 : if (size > 0)
2255 : 966891 : ASM_OUTPUT_SKIP (asm_out_file, size);
2256 : : }
2257 : :
2258 : : /* Assemble an alignment pseudo op for an ALIGN-bit boundary. */
2259 : :
2260 : : void
2261 : 385478 : assemble_align (unsigned int align)
2262 : : {
2263 : 385478 : if (align > BITS_PER_UNIT)
2264 : : {
2265 : 330236 : ASM_OUTPUT_ALIGN (asm_out_file, floor_log2 (align / BITS_PER_UNIT));
2266 : : }
2267 : 385478 : }
2268 : :
2269 : : /* Assemble a string constant with the specified C string as contents. */
2270 : :
2271 : : void
2272 : 31265847 : assemble_string (const char *p, int size)
2273 : : {
2274 : 31265847 : int pos = 0;
2275 : : #if defined(BASE64_ASM_OP) \
2276 : : && BITS_PER_UNIT == 8 \
2277 : : && CHAR_BIT == 8 \
2278 : : && 'A' == 65 \
2279 : : && 'a' == 97 \
2280 : : && '0' == 48 \
2281 : : && '+' == 43 \
2282 : : && '/' == 47 \
2283 : : && '=' == 61
2284 : 31265847 : int maximum = 16384;
2285 : : #else
2286 : : int maximum = 2000;
2287 : : #endif
2288 : :
2289 : : /* If the string is very long, split it up. */
2290 : :
2291 : 62529192 : while (pos < size)
2292 : : {
2293 : 31263345 : int thissize = size - pos;
2294 : 31263345 : if (thissize > maximum)
2295 : : thissize = maximum;
2296 : :
2297 : 31263345 : ASM_OUTPUT_ASCII (asm_out_file, p, thissize);
2298 : :
2299 : 31263345 : pos += thissize;
2300 : 31263345 : p += thissize;
2301 : : }
2302 : 31265847 : }
2303 : :
2304 : :
2305 : : /* A noswitch_section_callback for lcomm_section. */
2306 : :
2307 : : static bool
2308 : 151504 : emit_local (tree decl ATTRIBUTE_UNUSED,
2309 : : const char *name ATTRIBUTE_UNUSED,
2310 : : unsigned HOST_WIDE_INT size ATTRIBUTE_UNUSED,
2311 : : unsigned HOST_WIDE_INT rounded ATTRIBUTE_UNUSED)
2312 : : {
2313 : : #if defined ASM_OUTPUT_ALIGNED_DECL_LOCAL
2314 : 151504 : unsigned int align = symtab_node::get (decl)->definition_alignment ();
2315 : 151504 : ASM_OUTPUT_ALIGNED_DECL_LOCAL (asm_out_file, decl, name,
2316 : : size, align);
2317 : 151504 : return true;
2318 : : #elif defined ASM_OUTPUT_ALIGNED_LOCAL
2319 : : unsigned int align = symtab_node::get (decl)->definition_alignment ();
2320 : : ASM_OUTPUT_ALIGNED_LOCAL (asm_out_file, name, size, align);
2321 : : return true;
2322 : : #else
2323 : : ASM_OUTPUT_LOCAL (asm_out_file, name, size, rounded);
2324 : : return false;
2325 : : #endif
2326 : : }
2327 : :
2328 : : /* A noswitch_section_callback for bss_noswitch_section. */
2329 : :
2330 : : #if defined ASM_OUTPUT_ALIGNED_BSS
2331 : : static bool
2332 : 762087 : emit_bss (tree decl ATTRIBUTE_UNUSED,
2333 : : const char *name ATTRIBUTE_UNUSED,
2334 : : unsigned HOST_WIDE_INT size ATTRIBUTE_UNUSED,
2335 : : unsigned HOST_WIDE_INT rounded ATTRIBUTE_UNUSED)
2336 : : {
2337 : 762087 : ASM_OUTPUT_ALIGNED_BSS (asm_out_file, decl, name, size,
2338 : : get_variable_align (decl));
2339 : 762087 : return true;
2340 : : }
2341 : : #endif
2342 : :
2343 : : /* A noswitch_section_callback for comm_section. */
2344 : :
2345 : : static bool
2346 : 1294 : emit_common (tree decl ATTRIBUTE_UNUSED,
2347 : : const char *name ATTRIBUTE_UNUSED,
2348 : : unsigned HOST_WIDE_INT size ATTRIBUTE_UNUSED,
2349 : : unsigned HOST_WIDE_INT rounded ATTRIBUTE_UNUSED)
2350 : : {
2351 : : #if defined ASM_OUTPUT_ALIGNED_DECL_COMMON
2352 : 1294 : ASM_OUTPUT_ALIGNED_DECL_COMMON (asm_out_file, decl, name,
2353 : 1294 : size, get_variable_align (decl));
2354 : 1294 : return true;
2355 : : #elif defined ASM_OUTPUT_ALIGNED_COMMON
2356 : : ASM_OUTPUT_ALIGNED_COMMON (asm_out_file, name, size,
2357 : : get_variable_align (decl));
2358 : : return true;
2359 : : #else
2360 : : ASM_OUTPUT_COMMON (asm_out_file, name, size, rounded);
2361 : : return false;
2362 : : #endif
2363 : : }
2364 : :
2365 : : /* A noswitch_section_callback for tls_comm_section. */
2366 : :
2367 : : static bool
2368 : 50 : emit_tls_common (tree decl ATTRIBUTE_UNUSED,
2369 : : const char *name ATTRIBUTE_UNUSED,
2370 : : unsigned HOST_WIDE_INT size ATTRIBUTE_UNUSED,
2371 : : unsigned HOST_WIDE_INT rounded ATTRIBUTE_UNUSED)
2372 : : {
2373 : : #ifdef ASM_OUTPUT_TLS_COMMON
2374 : 50 : ASM_OUTPUT_TLS_COMMON (asm_out_file, decl, name, size);
2375 : 50 : return true;
2376 : : #else
2377 : : sorry ("thread-local COMMON data not implemented");
2378 : : return true;
2379 : : #endif
2380 : : }
2381 : :
2382 : : /* Assemble DECL given that it belongs in SECTION_NOSWITCH section SECT.
2383 : : NAME is the name of DECL's SYMBOL_REF. */
2384 : :
2385 : : static void
2386 : 914935 : assemble_noswitch_variable (tree decl, const char *name, section *sect,
2387 : : unsigned int align)
2388 : : {
2389 : 914935 : unsigned HOST_WIDE_INT size, rounded;
2390 : :
2391 : 914935 : size = tree_to_uhwi (DECL_SIZE_UNIT (decl));
2392 : 914935 : rounded = size;
2393 : :
2394 : 914935 : if ((flag_sanitize & SANITIZE_ADDRESS) && asan_protect_global (decl))
2395 : 1876 : size += asan_red_zone_size (size);
2396 : :
2397 : : /* Don't allocate zero bytes of common,
2398 : : since that means "undefined external" in the linker. */
2399 : 914935 : if (size == 0)
2400 : 1532 : rounded = 1;
2401 : :
2402 : : /* Round size up to multiple of BIGGEST_ALIGNMENT bits
2403 : : so that each uninitialized object starts on such a boundary. */
2404 : 914935 : rounded += (BIGGEST_ALIGNMENT / BITS_PER_UNIT) - 1;
2405 : 914935 : rounded = (rounded / (BIGGEST_ALIGNMENT / BITS_PER_UNIT)
2406 : 914935 : * (BIGGEST_ALIGNMENT / BITS_PER_UNIT));
2407 : :
2408 : 914935 : if (!sect->noswitch.callback (decl, name, size, rounded)
2409 : 914935 : && (unsigned HOST_WIDE_INT) (align / BITS_PER_UNIT) > rounded)
2410 : 0 : error ("requested alignment for %q+D is greater than "
2411 : : "implemented alignment of %wu", decl, rounded);
2412 : 914935 : }
2413 : :
2414 : : /* A subroutine of assemble_variable. Output the label and contents of
2415 : : DECL, whose address is a SYMBOL_REF with name NAME. DONT_OUTPUT_DATA
2416 : : is as for assemble_variable. */
2417 : :
2418 : : static void
2419 : 1879834 : assemble_variable_contents (tree decl, const char *name,
2420 : : bool dont_output_data, bool merge_strings)
2421 : : {
2422 : : /* Do any machine/system dependent processing of the object. */
2423 : : #ifdef ASM_DECLARE_OBJECT_NAME
2424 : 1879834 : last_assemble_variable_decl = decl;
2425 : 1879834 : ASM_DECLARE_OBJECT_NAME (asm_out_file, name, decl);
2426 : : #else
2427 : : /* Standard thing is just output label for the object. */
2428 : : ASM_OUTPUT_LABEL (asm_out_file, name);
2429 : : #endif /* ASM_DECLARE_OBJECT_NAME */
2430 : :
2431 : 1879834 : if (!dont_output_data)
2432 : : {
2433 : : /* Caller is supposed to use varpool_get_constructor when it wants
2434 : : to output the body. */
2435 : 1879046 : gcc_assert (!in_lto_p || DECL_INITIAL (decl) != error_mark_node);
2436 : 1879046 : if (DECL_INITIAL (decl)
2437 : 1868428 : && DECL_INITIAL (decl) != error_mark_node
2438 : 3747472 : && !initializer_zerop (DECL_INITIAL (decl)))
2439 : : /* Output the actual data. */
2440 : 3574114 : output_constant (DECL_INITIAL (decl),
2441 : 1787057 : tree_to_uhwi (DECL_SIZE_UNIT (decl)),
2442 : : get_variable_align (decl),
2443 : : false, merge_strings);
2444 : : else
2445 : : /* Leave space for it. */
2446 : 91989 : assemble_zeros (tree_to_uhwi (DECL_SIZE_UNIT (decl)));
2447 : 1879046 : targetm.asm_out.decl_end ();
2448 : : }
2449 : 1879834 : }
2450 : :
2451 : : /* Write out assembly for the variable DECL, which is not defined in
2452 : : the current translation unit. */
2453 : : void
2454 : 291547 : assemble_undefined_decl (tree decl)
2455 : : {
2456 : 291547 : const char *name = XSTR (XEXP (DECL_RTL (decl), 0), 0);
2457 : 291547 : targetm.asm_out.assemble_undefined_decl (asm_out_file, name, decl);
2458 : 291547 : }
2459 : :
2460 : : /* Assemble everything that is needed for a variable or function declaration.
2461 : : Not used for automatic variables, and not used for function definitions.
2462 : : Should not be called for variables of incomplete structure type.
2463 : :
2464 : : TOP_LEVEL is nonzero if this variable has file scope.
2465 : : AT_END is nonzero if this is the special handling, at end of compilation,
2466 : : to define things that have had only tentative definitions.
2467 : : DONT_OUTPUT_DATA if nonzero means don't actually output the
2468 : : initial value (that will be done by the caller). */
2469 : :
2470 : : void
2471 : 2798660 : assemble_variable (tree decl, int top_level ATTRIBUTE_UNUSED,
2472 : : int at_end ATTRIBUTE_UNUSED, int dont_output_data)
2473 : : {
2474 : 2798660 : const char *name;
2475 : 2798660 : rtx decl_rtl, symbol;
2476 : 2798660 : section *sect;
2477 : 2798660 : unsigned int align;
2478 : 2798660 : bool asan_protected = false;
2479 : :
2480 : : /* This function is supposed to handle VARIABLES. Ensure we have one. */
2481 : 2798660 : gcc_assert (VAR_P (decl));
2482 : :
2483 : : /* Emulated TLS had better not get this far. */
2484 : 2798660 : gcc_checking_assert (targetm.have_tls || !DECL_THREAD_LOCAL_P (decl));
2485 : :
2486 : 2798660 : last_assemble_variable_decl = 0;
2487 : :
2488 : : /* Normally no need to say anything here for external references,
2489 : : since assemble_external is called by the language-specific code
2490 : : when a declaration is first seen. */
2491 : :
2492 : 2798660 : if (DECL_EXTERNAL (decl))
2493 : : return;
2494 : :
2495 : : /* Do nothing for global register variables. */
2496 : 2796535 : if (DECL_RTL_SET_P (decl) && REG_P (DECL_RTL (decl)))
2497 : : {
2498 : 0 : TREE_ASM_WRITTEN (decl) = 1;
2499 : 0 : return;
2500 : : }
2501 : :
2502 : : /* If type was incomplete when the variable was declared,
2503 : : see if it is complete now. */
2504 : :
2505 : 2796535 : if (DECL_SIZE (decl) == 0)
2506 : 1 : layout_decl (decl, 0);
2507 : :
2508 : : /* Still incomplete => don't allocate it; treat the tentative defn
2509 : : (which is what it must have been) as an `extern' reference. */
2510 : :
2511 : 2796535 : if (!dont_output_data && DECL_SIZE (decl) == 0)
2512 : : {
2513 : 1 : error ("storage size of %q+D isn%'t known", decl);
2514 : 1 : TREE_ASM_WRITTEN (decl) = 1;
2515 : 1 : return;
2516 : : }
2517 : :
2518 : : /* The first declaration of a variable that comes through this function
2519 : : decides whether it is global (in C, has external linkage)
2520 : : or local (in C, has internal linkage). So do nothing more
2521 : : if this function has already run. */
2522 : :
2523 : 2796534 : if (TREE_ASM_WRITTEN (decl))
2524 : : return;
2525 : :
2526 : : /* Make sure targetm.encode_section_info is invoked before we set
2527 : : ASM_WRITTEN. */
2528 : 2796534 : decl_rtl = DECL_RTL (decl);
2529 : :
2530 : 2796534 : TREE_ASM_WRITTEN (decl) = 1;
2531 : :
2532 : : /* Do no output if -fsyntax-only. */
2533 : 2796534 : if (flag_syntax_only)
2534 : : return;
2535 : :
2536 : 2796534 : if (! dont_output_data
2537 : 2796534 : && ! valid_constant_size_p (DECL_SIZE_UNIT (decl)))
2538 : : {
2539 : 2 : error ("size of variable %q+D is too large", decl);
2540 : 2 : return;
2541 : : }
2542 : :
2543 : 2796532 : gcc_assert (MEM_P (decl_rtl));
2544 : 2796532 : gcc_assert (GET_CODE (XEXP (decl_rtl, 0)) == SYMBOL_REF);
2545 : 2796532 : symbol = XEXP (decl_rtl, 0);
2546 : :
2547 : : /* If this symbol belongs to the tree constant pool, output the constant
2548 : : if it hasn't already been written. */
2549 : 2796532 : if (TREE_CONSTANT_POOL_ADDRESS_P (symbol))
2550 : : {
2551 : 1763 : tree decl = SYMBOL_REF_DECL (symbol);
2552 : 1763 : if (!TREE_ASM_WRITTEN (DECL_INITIAL (decl)))
2553 : 1100 : output_constant_def_contents (symbol);
2554 : 1763 : return;
2555 : : }
2556 : :
2557 : 2794769 : app_disable ();
2558 : :
2559 : 2794769 : name = XSTR (symbol, 0);
2560 : 2794769 : if (TREE_PUBLIC (decl) && DECL_NAME (decl))
2561 : 1394716 : notice_global_symbol (decl);
2562 : :
2563 : : /* Compute the alignment of this data. */
2564 : :
2565 : 2794769 : align_variable (decl, dont_output_data);
2566 : :
2567 : 2794769 : if ((flag_sanitize & SANITIZE_ADDRESS)
2568 : 2794769 : && asan_protect_global (decl))
2569 : : {
2570 : 2208 : asan_protected = true;
2571 : 2208 : SET_DECL_ALIGN (decl, MAX (DECL_ALIGN (decl),
2572 : : ASAN_RED_ZONE_SIZE * BITS_PER_UNIT));
2573 : : }
2574 : :
2575 : 2794769 : set_mem_align (decl_rtl, DECL_ALIGN (decl));
2576 : :
2577 : 2794769 : align = get_variable_align (decl);
2578 : :
2579 : 2794769 : if (TREE_PUBLIC (decl))
2580 : 1394872 : maybe_assemble_visibility (decl);
2581 : :
2582 : 2794769 : if (DECL_PRESERVE_P (decl))
2583 : 956 : targetm.asm_out.mark_decl_preserved (name);
2584 : :
2585 : : /* First make the assembler name(s) global if appropriate. */
2586 : 2794769 : sect = get_variable_section (decl, false);
2587 : 2794769 : if (TREE_PUBLIC (decl)
2588 : 1394872 : && (sect->common.flags & SECTION_COMMON) == 0)
2589 : 1393528 : globalize_decl (decl);
2590 : :
2591 : : /* Output any data that we will need to use the address of. */
2592 : 2794769 : if (DECL_INITIAL (decl) && DECL_INITIAL (decl) != error_mark_node)
2593 : 1888931 : output_addressed_constants (DECL_INITIAL (decl), 0);
2594 : :
2595 : : /* dbxout.cc needs to know this. */
2596 : 2794769 : if (sect && (sect->common.flags & SECTION_CODE) != 0)
2597 : 0 : DECL_IN_TEXT_SECTION (decl) = 1;
2598 : :
2599 : : /* If the decl is part of an object_block, make sure that the decl
2600 : : has been positioned within its block, but do not write out its
2601 : : definition yet. output_object_blocks will do that later. */
2602 : 2794769 : if (SYMBOL_REF_HAS_BLOCK_INFO_P (symbol) && SYMBOL_REF_BLOCK (symbol))
2603 : : {
2604 : 0 : gcc_assert (!dont_output_data);
2605 : 0 : place_block_symbol (symbol);
2606 : : }
2607 : 2794769 : else if (SECTION_STYLE (sect) == SECTION_NOSWITCH)
2608 : 914935 : assemble_noswitch_variable (decl, name, sect, align);
2609 : : else
2610 : : {
2611 : : /* Special-case handling of vtv comdat sections. */
2612 : 1879834 : if (SECTION_STYLE (sect) == SECTION_NAMED
2613 : 1515498 : && (strcmp (sect->named.name, ".vtable_map_vars") == 0))
2614 : 3 : handle_vtv_comdat_section (sect, decl);
2615 : : else
2616 : 1879831 : switch_to_section (sect, decl);
2617 : 1879834 : if (align > BITS_PER_UNIT)
2618 : 1796159 : ASM_OUTPUT_ALIGN (asm_out_file, floor_log2 (align / BITS_PER_UNIT));
2619 : 1879834 : assemble_variable_contents (decl, name, dont_output_data,
2620 : : (sect->common.flags & SECTION_MERGE)
2621 : 1879834 : && (sect->common.flags & SECTION_STRINGS));
2622 : 1879834 : if (asan_protected)
2623 : : {
2624 : 1219 : unsigned HOST_WIDE_INT int size
2625 : 1219 : = tree_to_uhwi (DECL_SIZE_UNIT (decl));
2626 : 2302 : assemble_zeros (asan_red_zone_size (size));
2627 : : }
2628 : : }
2629 : : }
2630 : :
2631 : : /* Return true if type TYPE contains any pointers. */
2632 : :
2633 : : static bool
2634 : 2 : contains_pointers_p (tree type)
2635 : : {
2636 : 2 : switch (TREE_CODE (type))
2637 : : {
2638 : : case POINTER_TYPE:
2639 : : case REFERENCE_TYPE:
2640 : : /* I'm not sure whether OFFSET_TYPE needs this treatment,
2641 : : so I'll play safe and return 1. */
2642 : : case OFFSET_TYPE:
2643 : : return true;
2644 : :
2645 : 0 : case RECORD_TYPE:
2646 : 0 : case UNION_TYPE:
2647 : 0 : case QUAL_UNION_TYPE:
2648 : 0 : {
2649 : 0 : tree fields;
2650 : : /* For a type that has fields, see if the fields have pointers. */
2651 : 0 : for (fields = TYPE_FIELDS (type); fields; fields = DECL_CHAIN (fields))
2652 : 0 : if (TREE_CODE (fields) == FIELD_DECL
2653 : 0 : && contains_pointers_p (TREE_TYPE (fields)))
2654 : : return true;
2655 : : return false;
2656 : : }
2657 : :
2658 : 0 : case ARRAY_TYPE:
2659 : : /* An array type contains pointers if its element type does. */
2660 : 0 : return contains_pointers_p (TREE_TYPE (type));
2661 : :
2662 : : default:
2663 : : return false;
2664 : : }
2665 : : }
2666 : :
2667 : : /* We delay assemble_external processing until
2668 : : the compilation unit is finalized. This is the best we can do for
2669 : : right now (i.e. stage 3 of GCC 4.0) - the right thing is to delay
2670 : : it all the way to final. See PR 17982 for further discussion. */
2671 : : static GTY(()) tree pending_assemble_externals;
2672 : :
2673 : : /* A similar list of pending libcall symbols. We only want to declare
2674 : : symbols that are actually used in the final assembly. */
2675 : : static GTY(()) rtx pending_libcall_symbols;
2676 : :
2677 : : #ifdef ASM_OUTPUT_EXTERNAL
2678 : : /* Some targets delay some output to final using TARGET_ASM_FILE_END.
2679 : : As a result, assemble_external can be called after the list of externals
2680 : : is processed and the pointer set destroyed. */
2681 : : static bool pending_assemble_externals_processed;
2682 : :
2683 : : /* Avoid O(external_decls**2) lookups in the pending_assemble_externals
2684 : : TREE_LIST in assemble_external. */
2685 : : static hash_set<tree> *pending_assemble_externals_set;
2686 : :
2687 : : /* True if DECL is a function decl for which no out-of-line copy exists.
2688 : : It is assumed that DECL's assembler name has been set. */
2689 : :
2690 : : static bool
2691 : 1765778 : incorporeal_function_p (tree decl)
2692 : : {
2693 : 1765778 : if (TREE_CODE (decl) == FUNCTION_DECL && fndecl_built_in_p (decl))
2694 : : {
2695 : 188393 : const char *name;
2696 : :
2697 : 188393 : if (DECL_BUILT_IN_CLASS (decl) == BUILT_IN_NORMAL
2698 : 188393 : && ALLOCA_FUNCTION_CODE_P (DECL_FUNCTION_CODE (decl)))
2699 : : return true;
2700 : :
2701 : 188388 : name = IDENTIFIER_POINTER (DECL_ASSEMBLER_NAME (decl));
2702 : : /* Atomic or sync builtins which have survived this far will be
2703 : : resolved externally and therefore are not incorporeal. */
2704 : 188388 : if (startswith (name, "__builtin_"))
2705 : : return true;
2706 : : }
2707 : : return false;
2708 : : }
2709 : :
2710 : : /* Actually do the tests to determine if this is necessary, and invoke
2711 : : ASM_OUTPUT_EXTERNAL. */
2712 : : static void
2713 : 1777223 : assemble_external_real (tree decl)
2714 : : {
2715 : 1777223 : rtx rtl = DECL_RTL (decl);
2716 : :
2717 : 1777223 : if (MEM_P (rtl) && GET_CODE (XEXP (rtl, 0)) == SYMBOL_REF
2718 : 1777223 : && !SYMBOL_REF_USED (XEXP (rtl, 0))
2719 : 3543001 : && !incorporeal_function_p (decl))
2720 : : {
2721 : : /* Some systems do require some output. */
2722 : 1765773 : SYMBOL_REF_USED (XEXP (rtl, 0)) = 1;
2723 : 1765773 : ASM_OUTPUT_EXTERNAL (asm_out_file, decl, XSTR (XEXP (rtl, 0), 0));
2724 : : }
2725 : 1777223 : }
2726 : : #endif
2727 : :
2728 : : void
2729 : 224060 : process_pending_assemble_externals (void)
2730 : : {
2731 : : #ifdef ASM_OUTPUT_EXTERNAL
2732 : 224060 : tree list;
2733 : 2001283 : for (list = pending_assemble_externals; list; list = TREE_CHAIN (list))
2734 : 1777223 : assemble_external_real (TREE_VALUE (list));
2735 : :
2736 : 250063 : for (rtx list = pending_libcall_symbols; list; list = XEXP (list, 1))
2737 : : {
2738 : 26003 : rtx symbol = XEXP (list, 0);
2739 : 26003 : const char *name = targetm.strip_name_encoding (XSTR (symbol, 0));
2740 : 26003 : tree id = get_identifier (name);
2741 : 26003 : if (TREE_SYMBOL_REFERENCED (id))
2742 : 25946 : targetm.asm_out.external_libcall (symbol);
2743 : : }
2744 : :
2745 : 224060 : pending_assemble_externals = 0;
2746 : 224060 : pending_assemble_externals_processed = true;
2747 : 224060 : pending_libcall_symbols = NULL_RTX;
2748 : 448120 : delete pending_assemble_externals_set;
2749 : 224060 : pending_assemble_externals_set = nullptr;
2750 : : #endif
2751 : 224060 : }
2752 : :
2753 : : /* This TREE_LIST contains any weak symbol declarations waiting
2754 : : to be emitted. */
2755 : : static GTY(()) tree weak_decls;
2756 : :
2757 : : /* Output something to declare an external symbol to the assembler,
2758 : : and qualifiers such as weakness. (Most assemblers don't need
2759 : : extern declaration, so we normally output nothing.) Do nothing if
2760 : : DECL is not external. */
2761 : :
2762 : : void
2763 : 38974002 : assemble_external (tree decl ATTRIBUTE_UNUSED)
2764 : : {
2765 : : /* Make sure that the ASM_OUT_FILE is open.
2766 : : If it's not, we should not be calling this function. */
2767 : 38974002 : gcc_assert (asm_out_file);
2768 : :
2769 : : /* In a perfect world, the following condition would be true.
2770 : : Sadly, the Go front end emit assembly *from the front end*,
2771 : : bypassing the call graph. See PR52739. Fix before GCC 4.8. */
2772 : : #if 0
2773 : : /* This function should only be called if we are expanding, or have
2774 : : expanded, to RTL.
2775 : : Ideally, only final.cc would be calling this function, but it is
2776 : : not clear whether that would break things somehow. See PR 17982
2777 : : for further discussion. */
2778 : : gcc_assert (state == EXPANSION
2779 : : || state == FINISHED);
2780 : : #endif
2781 : :
2782 : 38974002 : if (!DECL_P (decl) || !DECL_EXTERNAL (decl) || !TREE_PUBLIC (decl))
2783 : : return;
2784 : :
2785 : : /* We want to output annotation for weak and external symbols at
2786 : : very last to check if they are references or not. */
2787 : :
2788 : 17113129 : if (TARGET_SUPPORTS_WEAK
2789 : 17113129 : && DECL_WEAK (decl)
2790 : : /* TREE_STATIC is a weird and abused creature which is not
2791 : : generally the right test for whether an entity has been
2792 : : locally emitted, inlined or otherwise not-really-extern, but
2793 : : for declarations that can be weak, it happens to be
2794 : : match. */
2795 : 10496 : && !TREE_STATIC (decl)
2796 : 5110 : && lookup_attribute ("weak", DECL_ATTRIBUTES (decl))
2797 : 17117766 : && value_member (decl, weak_decls) == NULL_TREE)
2798 : 940 : weak_decls = tree_cons (NULL, decl, weak_decls);
2799 : :
2800 : : #ifdef ASM_OUTPUT_EXTERNAL
2801 : 17113129 : if (pending_assemble_externals_processed)
2802 : : {
2803 : 0 : assemble_external_real (decl);
2804 : 0 : return;
2805 : : }
2806 : :
2807 : 17113129 : if (! pending_assemble_externals_set->add (decl))
2808 : 1777263 : pending_assemble_externals = tree_cons (NULL, decl,
2809 : : pending_assemble_externals);
2810 : : #endif
2811 : : }
2812 : :
2813 : : /* Similar, for calling a library function FUN. */
2814 : :
2815 : : void
2816 : 189951 : assemble_external_libcall (rtx fun)
2817 : : {
2818 : : /* Declare library function name external when first used, if nec. */
2819 : 189951 : if (! SYMBOL_REF_USED (fun))
2820 : : {
2821 : : #ifdef ASM_OUTPUT_EXTERNAL
2822 : 26014 : gcc_assert (!pending_assemble_externals_processed);
2823 : : #endif
2824 : 26014 : SYMBOL_REF_USED (fun) = 1;
2825 : : /* Make sure the libcall symbol is in the symtab so any
2826 : : reference to it will mark its tree node as referenced, via
2827 : : assemble_name_resolve. These are eventually emitted, if
2828 : : used, in process_pending_assemble_externals. */
2829 : 26014 : const char *name = targetm.strip_name_encoding (XSTR (fun, 0));
2830 : 26014 : get_identifier (name);
2831 : 26014 : pending_libcall_symbols = gen_rtx_EXPR_LIST (VOIDmode, fun,
2832 : : pending_libcall_symbols);
2833 : : }
2834 : 189951 : }
2835 : :
2836 : : /* Assemble a label named NAME. */
2837 : :
2838 : : void
2839 : 1243232 : assemble_label (FILE *file, const char *name)
2840 : : {
2841 : 1243232 : ASM_OUTPUT_LABEL (file, name);
2842 : 1243232 : }
2843 : :
2844 : : /* Set the symbol_referenced flag for ID. */
2845 : : void
2846 : 33540666 : mark_referenced (tree id)
2847 : : {
2848 : 33540666 : TREE_SYMBOL_REFERENCED (id) = 1;
2849 : 33540666 : }
2850 : :
2851 : : /* Set the symbol_referenced flag for DECL and notify callgraph. */
2852 : : void
2853 : 5809 : mark_decl_referenced (tree decl)
2854 : : {
2855 : 5809 : if (TREE_CODE (decl) == FUNCTION_DECL)
2856 : : {
2857 : : /* Extern inline functions don't become needed when referenced.
2858 : : If we know a method will be emitted in other TU and no new
2859 : : functions can be marked reachable, just use the external
2860 : : definition. */
2861 : 5632 : struct cgraph_node *node = cgraph_node::get_create (decl);
2862 : 5632 : if (!DECL_EXTERNAL (decl)
2863 : 5632 : && !node->definition)
2864 : 12 : node->mark_force_output ();
2865 : : }
2866 : 177 : else if (VAR_P (decl))
2867 : : {
2868 : 177 : varpool_node *node = varpool_node::get_create (decl);
2869 : : /* C++ frontend use mark_decl_references to force COMDAT variables
2870 : : to be output that might appear dead otherwise. */
2871 : 177 : node->force_output = true;
2872 : : }
2873 : : /* else do nothing - we can get various sorts of CST nodes here,
2874 : : which do not need to be marked. */
2875 : 5809 : }
2876 : :
2877 : :
2878 : : /* Output to FILE (an assembly file) a reference to NAME. If NAME
2879 : : starts with a *, the rest of NAME is output verbatim. Otherwise
2880 : : NAME is transformed in a target-specific way (usually by the
2881 : : addition of an underscore). */
2882 : :
2883 : : void
2884 : 407270323 : assemble_name_raw (FILE *file, const char *name)
2885 : : {
2886 : 407270323 : if (name[0] == '*')
2887 : 373378856 : fputs (&name[1], file);
2888 : : else
2889 : 33891467 : ASM_OUTPUT_LABELREF (file, name);
2890 : 407270323 : }
2891 : :
2892 : : /* Return NAME that should actually be emitted, looking through
2893 : : transparent aliases. If NAME refers to an entity that is also
2894 : : represented as a tree (like a function or variable), mark the entity
2895 : : as referenced. */
2896 : : const char *
2897 : 342339651 : assemble_name_resolve (const char *name)
2898 : : {
2899 : 342339651 : const char *real_name = targetm.strip_name_encoding (name);
2900 : 342339651 : tree id = maybe_get_identifier (real_name);
2901 : :
2902 : 342339651 : if (id)
2903 : : {
2904 : 33540666 : tree id_orig = id;
2905 : :
2906 : 33540666 : mark_referenced (id);
2907 : 33540666 : ultimate_transparent_alias_target (&id);
2908 : 33540666 : if (id != id_orig)
2909 : 0 : name = IDENTIFIER_POINTER (id);
2910 : 33540666 : gcc_assert (! TREE_CHAIN (id));
2911 : : }
2912 : :
2913 : 342339651 : return name;
2914 : : }
2915 : :
2916 : : /* Like assemble_name_raw, but should be used when NAME might refer to
2917 : : an entity that is also represented as a tree (like a function or
2918 : : variable). If NAME does refer to such an entity, that entity will
2919 : : be marked as referenced. */
2920 : :
2921 : : void
2922 : 233849349 : assemble_name (FILE *file, const char *name)
2923 : : {
2924 : 233849349 : assemble_name_raw (file, assemble_name_resolve (name));
2925 : 233849349 : }
2926 : :
2927 : : /* Allocate SIZE bytes writable static space with a gensym name
2928 : : and return an RTX to refer to its address. */
2929 : :
2930 : : rtx
2931 : 0 : assemble_static_space (unsigned HOST_WIDE_INT size)
2932 : : {
2933 : 0 : char name[17];
2934 : 0 : const char *namestring;
2935 : 0 : rtx x;
2936 : :
2937 : 0 : ASM_GENERATE_INTERNAL_LABEL (name, "LF", const_labelno);
2938 : 0 : ++const_labelno;
2939 : 0 : namestring = ggc_strdup (name);
2940 : :
2941 : 0 : x = gen_rtx_SYMBOL_REF (Pmode, namestring);
2942 : 0 : SYMBOL_REF_FLAGS (x) = SYMBOL_FLAG_LOCAL;
2943 : :
2944 : : #ifdef ASM_OUTPUT_ALIGNED_DECL_LOCAL
2945 : 0 : ASM_OUTPUT_ALIGNED_DECL_LOCAL (asm_out_file, NULL_TREE, name, size,
2946 : : BIGGEST_ALIGNMENT);
2947 : : #else
2948 : : #ifdef ASM_OUTPUT_ALIGNED_LOCAL
2949 : : ASM_OUTPUT_ALIGNED_LOCAL (asm_out_file, name, size, BIGGEST_ALIGNMENT);
2950 : : #else
2951 : : {
2952 : : /* Round size up to multiple of BIGGEST_ALIGNMENT bits
2953 : : so that each uninitialized object starts on such a boundary. */
2954 : : /* Variable `rounded' might or might not be used in ASM_OUTPUT_LOCAL. */
2955 : : unsigned HOST_WIDE_INT rounded ATTRIBUTE_UNUSED
2956 : : = ((size + (BIGGEST_ALIGNMENT / BITS_PER_UNIT) - 1)
2957 : : / (BIGGEST_ALIGNMENT / BITS_PER_UNIT)
2958 : : * (BIGGEST_ALIGNMENT / BITS_PER_UNIT));
2959 : : ASM_OUTPUT_LOCAL (asm_out_file, name, size, rounded);
2960 : : }
2961 : : #endif
2962 : : #endif
2963 : 0 : return x;
2964 : : }
2965 : :
2966 : : /* Assemble the static constant template for function entry trampolines.
2967 : : This is done at most once per compilation.
2968 : : Returns an RTX for the address of the template. */
2969 : :
2970 : : static GTY(()) rtx initial_trampoline;
2971 : :
2972 : : rtx
2973 : 0 : assemble_trampoline_template (void)
2974 : : {
2975 : 0 : char label[256];
2976 : 0 : const char *name;
2977 : 0 : int align;
2978 : 0 : rtx symbol;
2979 : :
2980 : 0 : gcc_assert (targetm.asm_out.trampoline_template != NULL);
2981 : :
2982 : 0 : if (initial_trampoline)
2983 : : return initial_trampoline;
2984 : :
2985 : : /* By default, put trampoline templates in read-only data section. */
2986 : :
2987 : : #ifdef TRAMPOLINE_SECTION
2988 : : switch_to_section (TRAMPOLINE_SECTION);
2989 : : #else
2990 : 0 : switch_to_section (readonly_data_section);
2991 : : #endif
2992 : :
2993 : : /* Write the assembler code to define one. */
2994 : 0 : align = floor_log2 (TRAMPOLINE_ALIGNMENT / BITS_PER_UNIT);
2995 : 0 : if (align > 0)
2996 : 0 : ASM_OUTPUT_ALIGN (asm_out_file, align);
2997 : :
2998 : 0 : targetm.asm_out.internal_label (asm_out_file, "LTRAMP", 0);
2999 : 0 : targetm.asm_out.trampoline_template (asm_out_file);
3000 : :
3001 : : /* Record the rtl to refer to it. */
3002 : 0 : ASM_GENERATE_INTERNAL_LABEL (label, "LTRAMP", 0);
3003 : 0 : name = ggc_strdup (label);
3004 : 0 : symbol = gen_rtx_SYMBOL_REF (Pmode, name);
3005 : 0 : SYMBOL_REF_FLAGS (symbol) = SYMBOL_FLAG_LOCAL;
3006 : :
3007 : 0 : initial_trampoline = gen_const_mem (BLKmode, symbol);
3008 : 0 : set_mem_align (initial_trampoline, TRAMPOLINE_ALIGNMENT);
3009 : 0 : set_mem_size (initial_trampoline, TRAMPOLINE_SIZE);
3010 : :
3011 : 0 : return initial_trampoline;
3012 : : }
3013 : :
3014 : : /* A and B are either alignments or offsets. Return the minimum alignment
3015 : : that may be assumed after adding the two together. */
3016 : :
3017 : : static inline unsigned
3018 : 14847182 : min_align (unsigned int a, unsigned int b)
3019 : : {
3020 : 14847182 : return least_bit_hwi (a | b);
3021 : : }
3022 : :
3023 : : /* Return the assembler directive for creating a given kind of integer
3024 : : object. SIZE is the number of bytes in the object and ALIGNED_P
3025 : : indicates whether it is known to be aligned. Return NULL if the
3026 : : assembly dialect has no such directive.
3027 : :
3028 : : The returned string should be printed at the start of a new line and
3029 : : be followed immediately by the object's initial value. */
3030 : :
3031 : : const char *
3032 : 395493742 : integer_asm_op (int size, int aligned_p)
3033 : : {
3034 : 395493742 : struct asm_int_op *ops;
3035 : :
3036 : 395493742 : if (aligned_p)
3037 : : ops = &targetm.asm_out.aligned_op;
3038 : : else
3039 : 381397284 : ops = &targetm.asm_out.unaligned_op;
3040 : :
3041 : 395493742 : switch (size)
3042 : : {
3043 : 199674524 : case 1:
3044 : 199674524 : return targetm.asm_out.byte_op;
3045 : 19706830 : case 2:
3046 : 19706830 : return ops->hi;
3047 : 0 : case 3:
3048 : 0 : return ops->psi;
3049 : 143373263 : case 4:
3050 : 143373263 : return ops->si;
3051 : 0 : case 5:
3052 : 0 : case 6:
3053 : 0 : case 7:
3054 : 0 : return ops->pdi;
3055 : 32715664 : case 8:
3056 : 32715664 : return ops->di;
3057 : 0 : case 9:
3058 : 0 : case 10:
3059 : 0 : case 11:
3060 : 0 : case 12:
3061 : 0 : case 13:
3062 : 0 : case 14:
3063 : 0 : case 15:
3064 : 0 : return ops->pti;
3065 : 22854 : case 16:
3066 : 22854 : return ops->ti;
3067 : : default:
3068 : : return NULL;
3069 : : }
3070 : : }
3071 : :
3072 : : /* Use directive OP to assemble an integer object X. Print OP at the
3073 : : start of the line, followed immediately by the value of X. */
3074 : :
3075 : : void
3076 : 13820571 : assemble_integer_with_op (const char *op, rtx x)
3077 : : {
3078 : 13820571 : fputs (op, asm_out_file);
3079 : 13820571 : output_addr_const (asm_out_file, x);
3080 : 13820571 : fputc ('\n', asm_out_file);
3081 : 13820571 : }
3082 : :
3083 : : /* The default implementation of the asm_out.integer target hook. */
3084 : :
3085 : : bool
3086 : 14118319 : default_assemble_integer (rtx x ATTRIBUTE_UNUSED,
3087 : : unsigned int size ATTRIBUTE_UNUSED,
3088 : : int aligned_p ATTRIBUTE_UNUSED)
3089 : : {
3090 : 14118319 : const char *op = integer_asm_op (size, aligned_p);
3091 : : /* Avoid GAS bugs for large values. Specifically negative values whose
3092 : : absolute value fits in a bfd_vma, but not in a bfd_signed_vma. */
3093 : 19115489 : if (size > UNITS_PER_WORD && size > POINTER_SIZE_UNITS)
3094 : : return false;
3095 : 13820571 : return op && (assemble_integer_with_op (op, x), true);
3096 : : }
3097 : :
3098 : : /* Assemble the integer constant X into an object of SIZE bytes. ALIGN is
3099 : : the alignment of the integer in bits. Return 1 if we were able to output
3100 : : the constant, otherwise 0. We must be able to output the constant,
3101 : : if FORCE is nonzero. */
3102 : :
3103 : : bool
3104 : 14118319 : assemble_integer (rtx x, unsigned int size, unsigned int align, int force)
3105 : : {
3106 : 14118319 : int aligned_p;
3107 : :
3108 : 14118319 : aligned_p = (align >= MIN (size * BITS_PER_UNIT, BIGGEST_ALIGNMENT));
3109 : :
3110 : : /* See if the target hook can handle this kind of object. */
3111 : 14118319 : if (targetm.asm_out.integer (x, size, aligned_p))
3112 : : return true;
3113 : :
3114 : : /* If the object is a multi-byte one, try splitting it up. Split
3115 : : it into words it if is multi-word, otherwise split it into bytes. */
3116 : 297748 : if (size > 1)
3117 : : {
3118 : 297748 : machine_mode omode, imode;
3119 : 297748 : unsigned int subalign;
3120 : 297748 : unsigned int subsize, i;
3121 : 297748 : enum mode_class mclass;
3122 : :
3123 : 573712 : subsize = size > UNITS_PER_WORD? UNITS_PER_WORD : 1;
3124 : 297748 : subalign = MIN (align, subsize * BITS_PER_UNIT);
3125 : 297748 : if (GET_CODE (x) == CONST_FIXED)
3126 : 0 : mclass = GET_MODE_CLASS (GET_MODE (x));
3127 : : else
3128 : : mclass = MODE_INT;
3129 : :
3130 : 297748 : omode = mode_for_size (subsize * BITS_PER_UNIT, mclass, 0).require ();
3131 : 297748 : imode = mode_for_size (size * BITS_PER_UNIT, mclass, 0).require ();
3132 : :
3133 : 896932 : for (i = 0; i < size; i += subsize)
3134 : : {
3135 : 599184 : rtx partial = simplify_subreg (omode, x, imode, i);
3136 : 599184 : if (!partial || !assemble_integer (partial, subsize, subalign, 0))
3137 : : break;
3138 : : }
3139 : 297748 : if (i == size)
3140 : 14118319 : return true;
3141 : :
3142 : : /* If we've printed some of it, but not all of it, there's no going
3143 : : back now. */
3144 : 0 : gcc_assert (!i);
3145 : : }
3146 : :
3147 : 0 : gcc_assert (!force);
3148 : :
3149 : : return false;
3150 : : }
3151 : :
3152 : : /* Assemble the floating-point constant D into an object of size MODE. ALIGN
3153 : : is the alignment of the constant in bits. If REVERSE is true, D is output
3154 : : in reverse storage order. */
3155 : :
3156 : : void
3157 : 776311 : assemble_real (REAL_VALUE_TYPE d, scalar_float_mode mode, unsigned int align,
3158 : : bool reverse)
3159 : : {
3160 : 776311 : long data[4] = {0, 0, 0, 0};
3161 : 776311 : int bitsize, nelts, nunits, units_per;
3162 : 776311 : rtx elt;
3163 : :
3164 : : /* This is hairy. We have a quantity of known size. real_to_target
3165 : : will put it into an array of *host* longs, 32 bits per element
3166 : : (even if long is more than 32 bits). We need to determine the
3167 : : number of array elements that are occupied (nelts) and the number
3168 : : of *target* min-addressable units that will be occupied in the
3169 : : object file (nunits). We cannot assume that 32 divides the
3170 : : mode's bitsize (size * BITS_PER_UNIT) evenly.
3171 : :
3172 : : size * BITS_PER_UNIT is used here to make sure that padding bits
3173 : : (which might appear at either end of the value; real_to_target
3174 : : will include the padding bits in its output array) are included. */
3175 : :
3176 : 776311 : nunits = GET_MODE_SIZE (mode);
3177 : 776311 : bitsize = nunits * BITS_PER_UNIT;
3178 : 776311 : nelts = CEIL (bitsize, 32);
3179 : 776311 : units_per = 32 / BITS_PER_UNIT;
3180 : :
3181 : 776311 : real_to_target (data, &d, mode);
3182 : :
3183 : : /* Put out the first word with the specified alignment. */
3184 : 776311 : unsigned int chunk_nunits = MIN (nunits, units_per);
3185 : 776311 : if (reverse)
3186 : 72 : elt = flip_storage_order (SImode, gen_int_mode (data[nelts - 1], SImode));
3187 : : else
3188 : 776239 : elt = GEN_INT (sext_hwi (data[0], chunk_nunits * BITS_PER_UNIT));
3189 : 776311 : assemble_integer (elt, chunk_nunits, align, 1);
3190 : 776311 : nunits -= chunk_nunits;
3191 : :
3192 : : /* Subsequent words need only 32-bit alignment. */
3193 : 776311 : align = min_align (align, 32);
3194 : :
3195 : 1183198 : for (int i = 1; i < nelts; i++)
3196 : : {
3197 : 406887 : chunk_nunits = MIN (nunits, units_per);
3198 : 406887 : if (reverse)
3199 : 18 : elt = flip_storage_order (SImode,
3200 : 18 : gen_int_mode (data[nelts - 1 - i], SImode));
3201 : : else
3202 : 406869 : elt = GEN_INT (sext_hwi (data[i], chunk_nunits * BITS_PER_UNIT));
3203 : 406887 : assemble_integer (elt, chunk_nunits, align, 1);
3204 : 406887 : nunits -= chunk_nunits;
3205 : : }
3206 : 776311 : }
3207 : :
3208 : : /* Given an expression EXP with a constant value,
3209 : : reduce it to the sum of an assembler symbol and an integer.
3210 : : Store them both in the structure *VALUE.
3211 : : EXP must be reducible. */
3212 : :
3213 : : class addr_const {
3214 : : public:
3215 : : rtx base;
3216 : : poly_int64 offset;
3217 : : };
3218 : :
3219 : : static void
3220 : 27898 : decode_addr_const (tree exp, class addr_const *value)
3221 : : {
3222 : 27898 : tree target = TREE_OPERAND (exp, 0);
3223 : 27898 : poly_int64 offset = 0;
3224 : 28350 : rtx x;
3225 : :
3226 : 28802 : while (1)
3227 : : {
3228 : 28350 : poly_int64 bytepos;
3229 : 28350 : if (TREE_CODE (target) == COMPONENT_REF
3230 : 28350 : && poly_int_tree_p (byte_position (TREE_OPERAND (target, 1)),
3231 : : &bytepos))
3232 : : {
3233 : 438 : offset += bytepos;
3234 : 438 : target = TREE_OPERAND (target, 0);
3235 : : }
3236 : 27912 : else if (TREE_CODE (target) == ARRAY_REF
3237 : 27912 : || TREE_CODE (target) == ARRAY_RANGE_REF)
3238 : : {
3239 : : /* Truncate big offset. */
3240 : 14 : offset
3241 : 14 : += (TREE_INT_CST_LOW (TYPE_SIZE_UNIT (TREE_TYPE (target)))
3242 : 28 : * wi::to_poly_widest (TREE_OPERAND (target, 1)).force_shwi ());
3243 : 14 : target = TREE_OPERAND (target, 0);
3244 : : }
3245 : 27898 : else if (TREE_CODE (target) == MEM_REF
3246 : 27898 : && TREE_CODE (TREE_OPERAND (target, 0)) == ADDR_EXPR)
3247 : : {
3248 : 0 : offset += mem_ref_offset (target).force_shwi ();
3249 : 0 : target = TREE_OPERAND (TREE_OPERAND (target, 0), 0);
3250 : : }
3251 : 27898 : else if (INDIRECT_REF_P (target)
3252 : 0 : && TREE_CODE (TREE_OPERAND (target, 0)) == NOP_EXPR
3253 : 27898 : && TREE_CODE (TREE_OPERAND (TREE_OPERAND (target, 0), 0))
3254 : : == ADDR_EXPR)
3255 : 0 : target = TREE_OPERAND (TREE_OPERAND (TREE_OPERAND (target, 0), 0), 0);
3256 : : else
3257 : : break;
3258 : 452 : }
3259 : :
3260 : 27898 : switch (TREE_CODE (target))
3261 : : {
3262 : 27796 : case VAR_DECL:
3263 : 27796 : case FUNCTION_DECL:
3264 : 27796 : x = DECL_RTL (target);
3265 : : break;
3266 : :
3267 : 0 : case LABEL_DECL:
3268 : 0 : x = gen_rtx_MEM (FUNCTION_MODE,
3269 : 0 : gen_rtx_LABEL_REF (Pmode, force_label_rtx (target)));
3270 : 0 : break;
3271 : :
3272 : 0 : case REAL_CST:
3273 : 0 : case FIXED_CST:
3274 : 0 : case STRING_CST:
3275 : 0 : case COMPLEX_CST:
3276 : 0 : case CONSTRUCTOR:
3277 : 0 : case INTEGER_CST:
3278 : 0 : x = lookup_constant_def (target);
3279 : : /* Should have been added by output_addressed_constants. */
3280 : 0 : gcc_assert (x);
3281 : : break;
3282 : :
3283 : 0 : case INDIRECT_REF:
3284 : : /* This deals with absolute addresses. */
3285 : 0 : offset += tree_to_shwi (TREE_OPERAND (target, 0));
3286 : 0 : x = gen_rtx_MEM (QImode,
3287 : 0 : gen_rtx_SYMBOL_REF (Pmode, "origin of addresses"));
3288 : 0 : break;
3289 : :
3290 : 102 : case COMPOUND_LITERAL_EXPR:
3291 : 102 : gcc_assert (COMPOUND_LITERAL_EXPR_DECL (target));
3292 : 102 : x = DECL_RTL (COMPOUND_LITERAL_EXPR_DECL (target));
3293 : : break;
3294 : :
3295 : 0 : default:
3296 : 0 : gcc_unreachable ();
3297 : : }
3298 : :
3299 : 27898 : gcc_assert (MEM_P (x));
3300 : 27898 : x = XEXP (x, 0);
3301 : :
3302 : 27898 : value->base = x;
3303 : 27898 : value->offset = offset;
3304 : 27898 : }
3305 : :
3306 : : static GTY(()) hash_table<tree_descriptor_hasher> *const_desc_htab;
3307 : :
3308 : : static void maybe_output_constant_def_contents (struct constant_descriptor_tree *, int);
3309 : :
3310 : : /* Constant pool accessor function. */
3311 : :
3312 : : hash_table<tree_descriptor_hasher> *
3313 : 2381 : constant_pool_htab (void)
3314 : : {
3315 : 2381 : return const_desc_htab;
3316 : : }
3317 : :
3318 : : /* Compute a hash code for a constant expression. */
3319 : :
3320 : : hashval_t
3321 : 9103406 : tree_descriptor_hasher::hash (constant_descriptor_tree *ptr)
3322 : : {
3323 : 9103406 : return ptr->hash;
3324 : : }
3325 : :
3326 : : static hashval_t
3327 : 5105230 : const_hash_1 (const tree exp)
3328 : : {
3329 : 5371618 : const char *p;
3330 : 5371618 : hashval_t hi;
3331 : 5371618 : int len, i;
3332 : 5371618 : enum tree_code code = TREE_CODE (exp);
3333 : :
3334 : : /* Either set P and LEN to the address and len of something to hash and
3335 : : exit the switch or return a value. */
3336 : :
3337 : 5371618 : switch (code)
3338 : : {
3339 : 595699 : case INTEGER_CST:
3340 : 595699 : p = (char *) &TREE_INT_CST_ELT (exp, 0);
3341 : 595699 : len = TREE_INT_CST_NUNITS (exp) * sizeof (HOST_WIDE_INT);
3342 : 595699 : break;
3343 : :
3344 : 45606 : case REAL_CST:
3345 : 45606 : return real_hash (TREE_REAL_CST_PTR (exp));
3346 : :
3347 : 0 : case FIXED_CST:
3348 : 0 : return fixed_hash (TREE_FIXED_CST_PTR (exp));
3349 : :
3350 : 4207745 : case STRING_CST:
3351 : 4207745 : p = TREE_STRING_POINTER (exp);
3352 : 4207745 : len = TREE_STRING_LENGTH (exp);
3353 : 4207745 : break;
3354 : :
3355 : 19686 : case COMPLEX_CST:
3356 : 19686 : return (const_hash_1 (TREE_REALPART (exp)) * 5
3357 : 19686 : + const_hash_1 (TREE_IMAGPART (exp)));
3358 : :
3359 : 0 : case VECTOR_CST:
3360 : 0 : {
3361 : 0 : hi = 7 + VECTOR_CST_NPATTERNS (exp);
3362 : 0 : hi = hi * 563 + VECTOR_CST_NELTS_PER_PATTERN (exp);
3363 : 0 : unsigned int count = vector_cst_encoded_nelts (exp);
3364 : 0 : for (unsigned int i = 0; i < count; ++i)
3365 : 0 : hi = hi * 563 + const_hash_1 (VECTOR_CST_ENCODED_ELT (exp, i));
3366 : : return hi;
3367 : : }
3368 : :
3369 : 104 : case RAW_DATA_CST:
3370 : 104 : p = RAW_DATA_POINTER (exp);
3371 : 104 : len = RAW_DATA_LENGTH (exp);
3372 : 104 : break;
3373 : :
3374 : 228183 : case CONSTRUCTOR:
3375 : 228183 : {
3376 : 228183 : unsigned HOST_WIDE_INT idx;
3377 : 228183 : tree value;
3378 : :
3379 : 228183 : hi = 5 + int_size_in_bytes (TREE_TYPE (exp));
3380 : :
3381 : 1115848 : FOR_EACH_CONSTRUCTOR_VALUE (CONSTRUCTOR_ELTS (exp), idx, value)
3382 : 887665 : if (value)
3383 : 887665 : hi = hi * 603 + const_hash_1 (value);
3384 : :
3385 : : return hi;
3386 : : }
3387 : :
3388 : 122989 : case ADDR_EXPR:
3389 : 122989 : if (CONSTANT_CLASS_P (TREE_OPERAND (exp, 0)))
3390 : 95097 : return const_hash_1 (TREE_OPERAND (exp, 0));
3391 : :
3392 : : /* Fallthru. */
3393 : 27892 : case FDESC_EXPR:
3394 : 27892 : {
3395 : 27892 : class addr_const value;
3396 : :
3397 : 27892 : decode_addr_const (exp, &value);
3398 : 27892 : switch (GET_CODE (value.base))
3399 : : {
3400 : 27892 : case SYMBOL_REF:
3401 : : /* Don't hash the address of the SYMBOL_REF;
3402 : : only use the offset and the symbol name. */
3403 : 27892 : hi = value.offset.coeffs[0];
3404 : 27892 : p = XSTR (value.base, 0);
3405 : 955684 : for (i = 0; p[i] != 0; i++)
3406 : 927792 : hi = ((hi * 613) + (unsigned) (p[i]));
3407 : : break;
3408 : :
3409 : 0 : case LABEL_REF:
3410 : 0 : hi = (value.offset.coeffs[0]
3411 : 0 : + CODE_LABEL_NUMBER (label_ref_label (value.base)) * 13);
3412 : 0 : break;
3413 : :
3414 : 0 : default:
3415 : 0 : gcc_unreachable ();
3416 : : }
3417 : : }
3418 : 27892 : return hi;
3419 : :
3420 : 24 : case PLUS_EXPR:
3421 : 24 : case POINTER_PLUS_EXPR:
3422 : 24 : case MINUS_EXPR:
3423 : 24 : return (const_hash_1 (TREE_OPERAND (exp, 0)) * 9
3424 : 24 : + const_hash_1 (TREE_OPERAND (exp, 1)));
3425 : :
3426 : 151581 : CASE_CONVERT:
3427 : 151581 : return const_hash_1 (TREE_OPERAND (exp, 0)) * 7 + 2;
3428 : :
3429 : : default:
3430 : : /* A language specific constant. Just hash the code. */
3431 : : return code;
3432 : : }
3433 : :
3434 : : /* Compute hashing function. */
3435 : 4803548 : hi = len;
3436 : 312193413 : for (i = 0; i < len; i++)
3437 : 307389865 : hi = ((hi * 613) + (unsigned) (p[i]));
3438 : :
3439 : : return hi;
3440 : : }
3441 : :
3442 : : /* Wrapper of compare_constant, for the htab interface. */
3443 : : bool
3444 : 12560796 : tree_descriptor_hasher::equal (constant_descriptor_tree *c1,
3445 : : constant_descriptor_tree *c2)
3446 : : {
3447 : 12560796 : if (c1->hash != c2->hash)
3448 : : return false;
3449 : 2775101 : return compare_constant (c1->value, c2->value);
3450 : : }
3451 : :
3452 : : /* Compare t1 and t2, and return true only if they are known to result in
3453 : : the same bit pattern on output. */
3454 : :
3455 : : static bool
3456 : 3180184 : compare_constant (const tree t1, const tree t2)
3457 : : {
3458 : 3180184 : enum tree_code typecode;
3459 : :
3460 : 3180184 : if (t1 == NULL_TREE)
3461 : 0 : return t2 == NULL_TREE;
3462 : 3180184 : if (t2 == NULL_TREE)
3463 : : return false;
3464 : :
3465 : 3180184 : if (TREE_CODE (t1) != TREE_CODE (t2))
3466 : : return false;
3467 : :
3468 : 3180159 : switch (TREE_CODE (t1))
3469 : : {
3470 : 386711 : case INTEGER_CST:
3471 : : /* Integer constants are the same only if the same width of type. */
3472 : 386711 : if (TYPE_PRECISION (TREE_TYPE (t1)) != TYPE_PRECISION (TREE_TYPE (t2)))
3473 : : return false;
3474 : 378160 : if (TYPE_MODE (TREE_TYPE (t1)) != TYPE_MODE (TREE_TYPE (t2)))
3475 : : return false;
3476 : 378088 : return tree_int_cst_equal (t1, t2);
3477 : :
3478 : 40642 : case REAL_CST:
3479 : : /* Real constants are the same only if the same width of type. In
3480 : : addition to the same width, we need to check whether the modes are the
3481 : : same. There might be two floating point modes that are the same size
3482 : : but have different representations, such as the PowerPC that has 2
3483 : : different 128-bit floating point types (IBM extended double and IEEE
3484 : : 128-bit floating point). */
3485 : 40642 : if (TYPE_PRECISION (TREE_TYPE (t1)) != TYPE_PRECISION (TREE_TYPE (t2)))
3486 : : return false;
3487 : 27713 : if (TYPE_MODE (TREE_TYPE (t1)) != TYPE_MODE (TREE_TYPE (t2)))
3488 : : return false;
3489 : 27713 : return real_identical (&TREE_REAL_CST (t1), &TREE_REAL_CST (t2));
3490 : :
3491 : 0 : case FIXED_CST:
3492 : : /* Fixed constants are the same only if the same width of type. */
3493 : 0 : if (TYPE_PRECISION (TREE_TYPE (t1)) != TYPE_PRECISION (TREE_TYPE (t2)))
3494 : : return false;
3495 : :
3496 : 0 : return FIXED_VALUES_IDENTICAL (TREE_FIXED_CST (t1), TREE_FIXED_CST (t2));
3497 : :
3498 : 2696845 : case STRING_CST:
3499 : 2696845 : if (TYPE_MODE (TREE_TYPE (t1)) != TYPE_MODE (TREE_TYPE (t2))
3500 : 5393690 : || int_size_in_bytes (TREE_TYPE (t1))
3501 : 2696845 : != int_size_in_bytes (TREE_TYPE (t2)))
3502 : 4 : return false;
3503 : :
3504 : 2696841 : return (TREE_STRING_LENGTH (t1) == TREE_STRING_LENGTH (t2)
3505 : 2696841 : && ! memcmp (TREE_STRING_POINTER (t1), TREE_STRING_POINTER (t2),
3506 : 2696841 : TREE_STRING_LENGTH (t1)));
3507 : :
3508 : 25556 : case COMPLEX_CST:
3509 : 25556 : return (compare_constant (TREE_REALPART (t1), TREE_REALPART (t2))
3510 : 40294 : && compare_constant (TREE_IMAGPART (t1), TREE_IMAGPART (t2)));
3511 : :
3512 : 0 : case VECTOR_CST:
3513 : 0 : {
3514 : 0 : if (VECTOR_CST_NPATTERNS (t1)
3515 : 0 : != VECTOR_CST_NPATTERNS (t2))
3516 : : return false;
3517 : :
3518 : 0 : if (VECTOR_CST_NELTS_PER_PATTERN (t1)
3519 : 0 : != VECTOR_CST_NELTS_PER_PATTERN (t2))
3520 : : return false;
3521 : :
3522 : 0 : unsigned int count = vector_cst_encoded_nelts (t1);
3523 : 0 : for (unsigned int i = 0; i < count; ++i)
3524 : 0 : if (!compare_constant (VECTOR_CST_ENCODED_ELT (t1, i),
3525 : 0 : VECTOR_CST_ENCODED_ELT (t2, i)))
3526 : : return false;
3527 : :
3528 : : return true;
3529 : : }
3530 : :
3531 : 43 : case RAW_DATA_CST:
3532 : 43 : return (RAW_DATA_LENGTH (t1) == RAW_DATA_LENGTH (t2)
3533 : 43 : && ! memcmp (RAW_DATA_POINTER (t1), RAW_DATA_POINTER (t2),
3534 : 43 : RAW_DATA_LENGTH (t1)));
3535 : :
3536 : 30359 : case CONSTRUCTOR:
3537 : 30359 : {
3538 : 30359 : vec<constructor_elt, va_gc> *v1, *v2;
3539 : 30359 : unsigned HOST_WIDE_INT idx;
3540 : :
3541 : 30359 : typecode = TREE_CODE (TREE_TYPE (t1));
3542 : 30359 : if (typecode != TREE_CODE (TREE_TYPE (t2)))
3543 : : return false;
3544 : :
3545 : 30359 : if (typecode == ARRAY_TYPE)
3546 : : {
3547 : 718 : HOST_WIDE_INT size_1 = int_size_in_bytes (TREE_TYPE (t1));
3548 : : /* For arrays, check that mode, size and storage order match. */
3549 : 718 : if (TYPE_MODE (TREE_TYPE (t1)) != TYPE_MODE (TREE_TYPE (t2))
3550 : 718 : || size_1 == -1
3551 : 718 : || size_1 != int_size_in_bytes (TREE_TYPE (t2))
3552 : 1436 : || TYPE_REVERSE_STORAGE_ORDER (TREE_TYPE (t1))
3553 : 718 : != TYPE_REVERSE_STORAGE_ORDER (TREE_TYPE (t2)))
3554 : 0 : return false;
3555 : : }
3556 : : else
3557 : : {
3558 : : /* For record and union constructors, require exact type
3559 : : equality. */
3560 : 29641 : if (TREE_TYPE (t1) != TREE_TYPE (t2))
3561 : : return false;
3562 : : }
3563 : :
3564 : 30351 : v1 = CONSTRUCTOR_ELTS (t1);
3565 : 30351 : v2 = CONSTRUCTOR_ELTS (t2);
3566 : 91053 : if (vec_safe_length (v1) != vec_safe_length (v2))
3567 : : return false;
3568 : :
3569 : 259306 : for (idx = 0; idx < vec_safe_length (v1); ++idx)
3570 : : {
3571 : 228961 : constructor_elt *c1 = &(*v1)[idx];
3572 : 228961 : constructor_elt *c2 = &(*v2)[idx];
3573 : :
3574 : : /* Check that each value is the same... */
3575 : 228961 : if (!compare_constant (c1->value, c2->value))
3576 : : return false;
3577 : : /* ... and that they apply to the same fields! */
3578 : 228955 : if (typecode == ARRAY_TYPE)
3579 : : {
3580 : 135828 : if (!compare_constant (c1->index, c2->index))
3581 : : return false;
3582 : : }
3583 : : else
3584 : : {
3585 : 93127 : if (c1->index != c2->index)
3586 : : return false;
3587 : : }
3588 : : }
3589 : :
3590 : : return true;
3591 : : }
3592 : :
3593 : 3 : case ADDR_EXPR:
3594 : 3 : case FDESC_EXPR:
3595 : 3 : {
3596 : 3 : class addr_const value1, value2;
3597 : 3 : enum rtx_code code;
3598 : 3 : bool ret;
3599 : :
3600 : 3 : decode_addr_const (t1, &value1);
3601 : 3 : decode_addr_const (t2, &value2);
3602 : :
3603 : 3 : if (maybe_ne (value1.offset, value2.offset))
3604 : : return false;
3605 : :
3606 : 3 : code = GET_CODE (value1.base);
3607 : 3 : if (code != GET_CODE (value2.base))
3608 : : return false;
3609 : :
3610 : 3 : switch (code)
3611 : : {
3612 : 3 : case SYMBOL_REF:
3613 : 3 : ret = (strcmp (XSTR (value1.base, 0), XSTR (value2.base, 0)) == 0);
3614 : 3 : break;
3615 : :
3616 : 0 : case LABEL_REF:
3617 : 0 : ret = (CODE_LABEL_NUMBER (label_ref_label (value1.base))
3618 : 0 : == CODE_LABEL_NUMBER (label_ref_label (value2.base)));
3619 : 0 : break;
3620 : :
3621 : 0 : default:
3622 : 0 : gcc_unreachable ();
3623 : : }
3624 : : return ret;
3625 : : }
3626 : :
3627 : 0 : case PLUS_EXPR:
3628 : 0 : case POINTER_PLUS_EXPR:
3629 : 0 : case MINUS_EXPR:
3630 : 0 : case RANGE_EXPR:
3631 : 0 : return (compare_constant (TREE_OPERAND (t1, 0), TREE_OPERAND (t2, 0))
3632 : 0 : && compare_constant (TREE_OPERAND (t1, 1), TREE_OPERAND (t2, 1)));
3633 : :
3634 : 0 : CASE_CONVERT:
3635 : 0 : case VIEW_CONVERT_EXPR:
3636 : 0 : return compare_constant (TREE_OPERAND (t1, 0), TREE_OPERAND (t2, 0));
3637 : :
3638 : : default:
3639 : : return false;
3640 : : }
3641 : : }
3642 : :
3643 : : /* Return the section into which constant EXP should be placed. */
3644 : :
3645 : : static section *
3646 : 1243232 : get_constant_section (tree exp, unsigned int align)
3647 : : {
3648 : 1243232 : return targetm.asm_out.select_section (exp,
3649 : : compute_reloc_for_constant (exp),
3650 : 1243232 : align);
3651 : : }
3652 : :
3653 : : /* Return the size of constant EXP in bytes. */
3654 : :
3655 : : static HOST_WIDE_INT
3656 : 1244764 : get_constant_size (tree exp)
3657 : : {
3658 : 1244764 : HOST_WIDE_INT size;
3659 : :
3660 : 1244764 : size = int_size_in_bytes (TREE_TYPE (exp));
3661 : 1244764 : gcc_checking_assert (size >= 0);
3662 : 1244764 : gcc_checking_assert (TREE_CODE (exp) != STRING_CST
3663 : : || size >= TREE_STRING_LENGTH (exp));
3664 : 1244764 : return size;
3665 : : }
3666 : :
3667 : : /* Subroutine of output_constant_def:
3668 : : No constant equal to EXP is known to have been output.
3669 : : Make a constant descriptor to enter EXP in the hash table.
3670 : : Assign the label number and construct RTL to refer to the
3671 : : constant's location in memory.
3672 : : Caller is responsible for updating the hash table. */
3673 : :
3674 : : static struct constant_descriptor_tree *
3675 : 1251679 : build_constant_desc (tree exp)
3676 : : {
3677 : 1251679 : struct constant_descriptor_tree *desc;
3678 : 1251679 : rtx symbol, rtl;
3679 : 1251679 : char label[256];
3680 : 1251679 : int labelno;
3681 : 1251679 : tree decl;
3682 : :
3683 : 1251679 : desc = ggc_alloc<constant_descriptor_tree> ();
3684 : 1251679 : desc->value = exp;
3685 : :
3686 : : /* Create a string containing the label name, in LABEL. */
3687 : 1251679 : labelno = const_labelno++;
3688 : 1251679 : ASM_GENERATE_INTERNAL_LABEL (label, "LC", labelno);
3689 : :
3690 : : /* Construct the VAR_DECL associated with the constant. */
3691 : 1251679 : decl = build_decl (UNKNOWN_LOCATION, VAR_DECL, get_identifier (label),
3692 : 1251679 : TREE_TYPE (exp));
3693 : 1251679 : DECL_ARTIFICIAL (decl) = 1;
3694 : 1251679 : DECL_IGNORED_P (decl) = 1;
3695 : 1251679 : TREE_READONLY (decl) = 1;
3696 : 1251679 : TREE_STATIC (decl) = 1;
3697 : 1251679 : TREE_ADDRESSABLE (decl) = 1;
3698 : : /* We don't set the RTL yet as this would cause varpool to assume that the
3699 : : variable is referenced. Moreover, it would just be dropped in LTO mode.
3700 : : Instead we set the flag that will be recognized in make_decl_rtl. */
3701 : 1251679 : DECL_IN_CONSTANT_POOL (decl) = 1;
3702 : 1251679 : DECL_INITIAL (decl) = desc->value;
3703 : : /* ??? targetm.constant_alignment hasn't been updated for vector types on
3704 : : most architectures so use DATA_ALIGNMENT as well, except for strings. */
3705 : 1251679 : if (TREE_CODE (exp) == STRING_CST)
3706 : 1220260 : SET_DECL_ALIGN (decl, targetm.constant_alignment (exp, DECL_ALIGN (decl)));
3707 : : else
3708 : : {
3709 : 31419 : align_variable (decl, 0);
3710 : 31419 : if (DECL_ALIGN (decl) < GET_MODE_ALIGNMENT (DECL_MODE (decl))
3711 : 31419 : && ((optab_handler (movmisalign_optab, DECL_MODE (decl))
3712 : : != CODE_FOR_nothing)
3713 : 0 : || targetm.slow_unaligned_access (DECL_MODE (decl),
3714 : 0 : DECL_ALIGN (decl))))
3715 : 0 : SET_DECL_ALIGN (decl, GET_MODE_ALIGNMENT (DECL_MODE (decl)));
3716 : : }
3717 : :
3718 : : /* Now construct the SYMBOL_REF and the MEM. */
3719 : 1251679 : if (use_object_blocks_p ())
3720 : : {
3721 : 0 : int align = (TREE_CODE (decl) == CONST_DECL
3722 : 0 : || (VAR_P (decl) && DECL_IN_CONSTANT_POOL (decl))
3723 : 0 : ? DECL_ALIGN (decl)
3724 : 0 : : symtab_node::get (decl)->definition_alignment ());
3725 : 0 : section *sect = get_constant_section (exp, align);
3726 : 0 : symbol = create_block_symbol (ggc_strdup (label),
3727 : : get_block_for_section (sect), -1);
3728 : : }
3729 : : else
3730 : 1251679 : symbol = gen_rtx_SYMBOL_REF (Pmode, ggc_strdup (label));
3731 : 1251679 : SYMBOL_REF_FLAGS (symbol) |= SYMBOL_FLAG_LOCAL;
3732 : 1251679 : SET_SYMBOL_REF_DECL (symbol, decl);
3733 : 1251679 : TREE_CONSTANT_POOL_ADDRESS_P (symbol) = 1;
3734 : :
3735 : 1251679 : rtl = gen_const_mem (TYPE_MODE (TREE_TYPE (exp)), symbol);
3736 : 1251679 : set_mem_alias_set (rtl, 0);
3737 : :
3738 : : /* Putting EXP into the literal pool might have imposed a different
3739 : : alignment which should be visible in the RTX as well. */
3740 : 1251679 : set_mem_align (rtl, DECL_ALIGN (decl));
3741 : :
3742 : : /* We cannot share RTX'es in pool entries.
3743 : : Mark this piece of RTL as required for unsharing. */
3744 : 1251679 : RTX_FLAG (rtl, used) = 1;
3745 : :
3746 : : /* Set flags or add text to the name to record information, such as
3747 : : that it is a local symbol. If the name is changed, the macro
3748 : : ASM_OUTPUT_LABELREF will have to know how to strip this
3749 : : information. This call might invalidate our local variable
3750 : : SYMBOL; we can't use it afterward. */
3751 : 1251679 : targetm.encode_section_info (exp, rtl, true);
3752 : :
3753 : 1251679 : desc->rtl = rtl;
3754 : :
3755 : 1251679 : return desc;
3756 : : }
3757 : :
3758 : : /* Subroutine of output_constant_def and tree_output_constant_def:
3759 : : Add a constant to the hash table that tracks which constants
3760 : : already have labels. */
3761 : :
3762 : : static constant_descriptor_tree *
3763 : 3773609 : add_constant_to_table (tree exp, int defer)
3764 : : {
3765 : : /* The hash table methods may call output_constant_def for addressed
3766 : : constants, so handle them first. */
3767 : 3773609 : output_addressed_constants (exp, defer);
3768 : :
3769 : : /* Sanity check to catch recursive insertion. */
3770 : 3773609 : static bool inserting;
3771 : 3773609 : gcc_assert (!inserting);
3772 : 3773609 : inserting = true;
3773 : :
3774 : : /* Look up EXP in the table of constant descriptors. If we didn't
3775 : : find it, create a new one. */
3776 : 3773609 : struct constant_descriptor_tree key;
3777 : 3773609 : key.value = exp;
3778 : 3773609 : key.hash = const_hash_1 (exp);
3779 : 3773609 : constant_descriptor_tree **loc
3780 : 3773609 : = const_desc_htab->find_slot_with_hash (&key, key.hash, INSERT);
3781 : :
3782 : 3773609 : inserting = false;
3783 : :
3784 : 3773609 : struct constant_descriptor_tree *desc = *loc;
3785 : 3773609 : if (!desc)
3786 : : {
3787 : 1251679 : desc = build_constant_desc (exp);
3788 : 1251679 : desc->hash = key.hash;
3789 : 1251679 : *loc = desc;
3790 : : }
3791 : :
3792 : 3773609 : return desc;
3793 : : }
3794 : :
3795 : : /* Return an rtx representing a reference to constant data in memory
3796 : : for the constant expression EXP.
3797 : :
3798 : : If assembler code for such a constant has already been output,
3799 : : return an rtx to refer to it.
3800 : : Otherwise, output such a constant in memory
3801 : : and generate an rtx for it.
3802 : :
3803 : : If DEFER is nonzero, this constant can be deferred and output only
3804 : : if referenced in the function after all optimizations.
3805 : :
3806 : : `const_desc_table' records which constants already have label strings. */
3807 : :
3808 : : rtx
3809 : 3764387 : output_constant_def (tree exp, int defer)
3810 : : {
3811 : 3764387 : struct constant_descriptor_tree *desc = add_constant_to_table (exp, defer);
3812 : 3764387 : maybe_output_constant_def_contents (desc, defer);
3813 : 3764387 : return desc->rtl;
3814 : : }
3815 : :
3816 : : /* Subroutine of output_constant_def: Decide whether or not we need to
3817 : : output the constant DESC now, and if so, do it. */
3818 : : static void
3819 : 3764387 : maybe_output_constant_def_contents (struct constant_descriptor_tree *desc,
3820 : : int defer)
3821 : : {
3822 : 3764387 : rtx symbol = XEXP (desc->rtl, 0);
3823 : 3764387 : tree exp = desc->value;
3824 : :
3825 : 3764387 : if (flag_syntax_only)
3826 : : return;
3827 : :
3828 : 3764387 : if (TREE_ASM_WRITTEN (exp))
3829 : : /* Already output; don't do it again. */
3830 : : return;
3831 : :
3832 : : /* We can always defer constants as long as the context allows
3833 : : doing so. */
3834 : 1404408 : if (defer)
3835 : : {
3836 : : /* Increment n_deferred_constants if it exists. It needs to be at
3837 : : least as large as the number of constants actually referred to
3838 : : by the function. If it's too small we'll stop looking too early
3839 : : and fail to emit constants; if it's too large we'll only look
3840 : : through the entire function when we could have stopped earlier. */
3841 : 169030 : if (cfun)
3842 : 107377 : n_deferred_constants++;
3843 : 169030 : return;
3844 : : }
3845 : :
3846 : 1235378 : output_constant_def_contents (symbol);
3847 : : }
3848 : :
3849 : : /* Subroutine of output_constant_def_contents. Output the definition
3850 : : of constant EXP, which is pointed to by label LABEL. ALIGN is the
3851 : : constant's alignment in bits. */
3852 : :
3853 : : static void
3854 : 1243232 : assemble_constant_contents (tree exp, const char *label, unsigned int align,
3855 : : bool merge_strings)
3856 : : {
3857 : 1243232 : HOST_WIDE_INT size;
3858 : :
3859 : 1243232 : size = get_constant_size (exp);
3860 : :
3861 : : /* Do any machine/system dependent processing of the constant. */
3862 : 1243232 : targetm.asm_out.declare_constant_name (asm_out_file, label, exp, size);
3863 : :
3864 : : /* Output the value of EXP. */
3865 : 1243232 : output_constant (exp, size, align, false, merge_strings);
3866 : :
3867 : 1243232 : targetm.asm_out.decl_end ();
3868 : 1243232 : }
3869 : :
3870 : : /* We must output the constant data referred to by SYMBOL; do so. */
3871 : :
3872 : : static void
3873 : 1243232 : output_constant_def_contents (rtx symbol)
3874 : : {
3875 : 1243232 : tree decl = SYMBOL_REF_DECL (symbol);
3876 : 1243232 : tree exp = DECL_INITIAL (decl);
3877 : 1243232 : bool asan_protected = false;
3878 : :
3879 : : /* Make sure any other constants whose addresses appear in EXP
3880 : : are assigned label numbers. */
3881 : 1243232 : output_addressed_constants (exp, 0);
3882 : :
3883 : : /* We are no longer deferring this constant. */
3884 : 1243232 : TREE_ASM_WRITTEN (decl) = TREE_ASM_WRITTEN (exp) = 1;
3885 : :
3886 : 1243232 : if ((flag_sanitize & SANITIZE_ADDRESS)
3887 : 2945 : && TREE_CODE (exp) == STRING_CST
3888 : 1246156 : && asan_protect_global (exp))
3889 : : {
3890 : 1532 : asan_protected = true;
3891 : 1532 : SET_DECL_ALIGN (decl, MAX (DECL_ALIGN (decl),
3892 : : ASAN_RED_ZONE_SIZE * BITS_PER_UNIT));
3893 : : }
3894 : :
3895 : : /* If the constant is part of an object block, make sure that the
3896 : : decl has been positioned within its block, but do not write out
3897 : : its definition yet. output_object_blocks will do that later. */
3898 : 1243232 : if (SYMBOL_REF_HAS_BLOCK_INFO_P (symbol) && SYMBOL_REF_BLOCK (symbol))
3899 : 0 : place_block_symbol (symbol);
3900 : : else
3901 : : {
3902 : 1243232 : int align = (TREE_CODE (decl) == CONST_DECL
3903 : 1243232 : || (VAR_P (decl) && DECL_IN_CONSTANT_POOL (decl))
3904 : 2486464 : ? DECL_ALIGN (decl)
3905 : 0 : : symtab_node::get (decl)->definition_alignment ());
3906 : 1243232 : section *sect = get_constant_section (exp, align);
3907 : 1243232 : switch_to_section (sect);
3908 : 1243232 : if (align > BITS_PER_UNIT)
3909 : 388574 : ASM_OUTPUT_ALIGN (asm_out_file, floor_log2 (align / BITS_PER_UNIT));
3910 : 1243232 : assemble_constant_contents (exp, XSTR (symbol, 0), align,
3911 : : (sect->common.flags & SECTION_MERGE)
3912 : 1243232 : && (sect->common.flags & SECTION_STRINGS));
3913 : 1243232 : if (asan_protected)
3914 : : {
3915 : 1532 : HOST_WIDE_INT size = get_constant_size (exp);
3916 : 3033 : assemble_zeros (asan_red_zone_size (size));
3917 : : }
3918 : : }
3919 : 1243232 : }
3920 : :
3921 : : /* Look up EXP in the table of constant descriptors. Return the rtl
3922 : : if it has been emitted, else null. */
3923 : :
3924 : : rtx
3925 : 424246 : lookup_constant_def (tree exp)
3926 : : {
3927 : 424246 : struct constant_descriptor_tree key;
3928 : :
3929 : 424246 : key.value = exp;
3930 : 424246 : key.hash = const_hash_1 (exp);
3931 : 424246 : constant_descriptor_tree *desc
3932 : 424246 : = const_desc_htab->find_with_hash (&key, key.hash);
3933 : :
3934 : 424246 : return (desc ? desc->rtl : NULL_RTX);
3935 : : }
3936 : :
3937 : : /* Return a tree representing a reference to constant data in memory
3938 : : for the constant expression EXP.
3939 : :
3940 : : This is the counterpart of output_constant_def at the Tree level. */
3941 : :
3942 : : tree
3943 : 9222 : tree_output_constant_def (tree exp)
3944 : : {
3945 : 9222 : struct constant_descriptor_tree *desc = add_constant_to_table (exp, 1);
3946 : 9222 : tree decl = SYMBOL_REF_DECL (XEXP (desc->rtl, 0));
3947 : 9222 : varpool_node::finalize_decl (decl);
3948 : 9222 : return decl;
3949 : : }
3950 : :
3951 : 3940289 : class GTY((chain_next ("%h.next"), for_user)) constant_descriptor_rtx {
3952 : : public:
3953 : : class constant_descriptor_rtx *next;
3954 : : rtx mem;
3955 : : rtx sym;
3956 : : rtx constant;
3957 : : HOST_WIDE_INT offset;
3958 : : hashval_t hash;
3959 : : fixed_size_mode mode;
3960 : : unsigned int align;
3961 : : int labelno;
3962 : : int mark;
3963 : : };
3964 : :
3965 : : struct const_rtx_desc_hasher : ggc_ptr_hash<constant_descriptor_rtx>
3966 : : {
3967 : : static hashval_t hash (constant_descriptor_rtx *);
3968 : : static bool equal (constant_descriptor_rtx *, constant_descriptor_rtx *);
3969 : : };
3970 : :
3971 : : /* Used in the hash tables to avoid outputting the same constant
3972 : : twice. Unlike 'struct constant_descriptor_tree', RTX constants
3973 : : are output once per function, not once per file. */
3974 : : /* ??? Only a few targets need per-function constant pools. Most
3975 : : can use one per-file pool. Should add a targetm bit to tell the
3976 : : difference. */
3977 : :
3978 : : struct GTY(()) rtx_constant_pool {
3979 : : /* Pointers to first and last constant in pool, as ordered by offset. */
3980 : : class constant_descriptor_rtx *first;
3981 : : class constant_descriptor_rtx *last;
3982 : :
3983 : : /* Hash facility for making memory-constants from constant rtl-expressions.
3984 : : It is used on RISC machines where immediate integer arguments and
3985 : : constant addresses are restricted so that such constants must be stored
3986 : : in memory. */
3987 : : hash_table<const_rtx_desc_hasher> *const_rtx_htab;
3988 : :
3989 : : /* Current offset in constant pool (does not include any
3990 : : machine-specific header). */
3991 : : HOST_WIDE_INT offset;
3992 : : };
3993 : :
3994 : : /* Hash and compare functions for const_rtx_htab. */
3995 : :
3996 : : hashval_t
3997 : 15519355 : const_rtx_desc_hasher::hash (constant_descriptor_rtx *desc)
3998 : : {
3999 : 15519355 : return desc->hash;
4000 : : }
4001 : :
4002 : : bool
4003 : 19518244 : const_rtx_desc_hasher::equal (constant_descriptor_rtx *x,
4004 : : constant_descriptor_rtx *y)
4005 : : {
4006 : 19518244 : if (x->mode != y->mode)
4007 : : return false;
4008 : 11005425 : return rtx_equal_p (x->constant, y->constant);
4009 : : }
4010 : :
4011 : : /* Hash one component of a constant. */
4012 : :
4013 : : static hashval_t
4014 : 12776303 : const_rtx_hash_1 (const_rtx x)
4015 : : {
4016 : 12776303 : unsigned HOST_WIDE_INT hwi;
4017 : 12776303 : machine_mode mode;
4018 : 12776303 : enum rtx_code code;
4019 : 12776303 : hashval_t h;
4020 : 12776303 : int i;
4021 : :
4022 : 12776303 : code = GET_CODE (x);
4023 : 12776303 : mode = GET_MODE (x);
4024 : 12776303 : h = (hashval_t) code * 1048573 + mode;
4025 : :
4026 : 12776303 : switch (code)
4027 : : {
4028 : 7653590 : case CONST_INT:
4029 : 7653590 : hwi = INTVAL (x);
4030 : :
4031 : 7789036 : fold_hwi:
4032 : 7789036 : {
4033 : 7789036 : int shift = sizeof (hashval_t) * CHAR_BIT;
4034 : 7789036 : const int n = sizeof (HOST_WIDE_INT) / sizeof (hashval_t);
4035 : :
4036 : 7789036 : h ^= (hashval_t) hwi;
4037 : 15578072 : for (i = 1; i < n; ++i)
4038 : : {
4039 : 7789036 : hwi >>= shift;
4040 : 7789036 : h ^= (hashval_t) hwi;
4041 : : }
4042 : : }
4043 : : break;
4044 : :
4045 : : case CONST_WIDE_INT:
4046 : : hwi = 0;
4047 : : {
4048 : 415866 : for (i = 0; i < CONST_WIDE_INT_NUNITS (x); i++)
4049 : 280420 : hwi ^= CONST_WIDE_INT_ELT (x, i);
4050 : 135446 : goto fold_hwi;
4051 : : }
4052 : :
4053 : 2827114 : case CONST_DOUBLE:
4054 : 2827114 : if (TARGET_SUPPORTS_WIDE_INT == 0 && mode == VOIDmode)
4055 : : {
4056 : : hwi = CONST_DOUBLE_LOW (x) ^ CONST_DOUBLE_HIGH (x);
4057 : : goto fold_hwi;
4058 : : }
4059 : : else
4060 : 2827114 : h ^= real_hash (CONST_DOUBLE_REAL_VALUE (x));
4061 : 2827114 : break;
4062 : :
4063 : 0 : case CONST_FIXED:
4064 : 0 : h ^= fixed_hash (CONST_FIXED_VALUE (x));
4065 : 0 : break;
4066 : :
4067 : 106800 : case SYMBOL_REF:
4068 : 106800 : h ^= htab_hash_string (XSTR (x, 0));
4069 : 106800 : break;
4070 : :
4071 : 29 : case LABEL_REF:
4072 : 29 : h = h * 251 + CODE_LABEL_NUMBER (label_ref_label (x));
4073 : 29 : break;
4074 : :
4075 : 0 : case UNSPEC:
4076 : 0 : case UNSPEC_VOLATILE:
4077 : 0 : h = h * 251 + XINT (x, 1);
4078 : 0 : break;
4079 : :
4080 : : default:
4081 : : break;
4082 : : }
4083 : :
4084 : 12776303 : return h;
4085 : : }
4086 : :
4087 : : /* Compute a hash value for X, which should be a constant. */
4088 : :
4089 : : static hashval_t
4090 : 3919669 : const_rtx_hash (rtx x)
4091 : : {
4092 : 3919669 : hashval_t h = 0;
4093 : 3919669 : subrtx_iterator::array_type array;
4094 : 16695972 : FOR_EACH_SUBRTX (iter, array, x, ALL)
4095 : 12776303 : h = h * 509 + const_rtx_hash_1 (*iter);
4096 : 3919669 : return h;
4097 : 3919669 : }
4098 : :
4099 : :
4100 : : /* Create and return a new rtx constant pool. */
4101 : :
4102 : : static struct rtx_constant_pool *
4103 : 1903684 : create_constant_pool (void)
4104 : : {
4105 : 1903684 : struct rtx_constant_pool *pool;
4106 : :
4107 : 1903684 : pool = ggc_alloc<rtx_constant_pool> ();
4108 : 1903684 : pool->const_rtx_htab = hash_table<const_rtx_desc_hasher>::create_ggc (31);
4109 : 1903684 : pool->first = NULL;
4110 : 1903684 : pool->last = NULL;
4111 : 1903684 : pool->offset = 0;
4112 : 1903684 : return pool;
4113 : : }
4114 : :
4115 : : /* Initialize constant pool hashing for a new function. */
4116 : :
4117 : : void
4118 : 1629883 : init_varasm_status (void)
4119 : : {
4120 : 1629883 : crtl->varasm.pool = create_constant_pool ();
4121 : 1629883 : crtl->varasm.deferred_constants = 0;
4122 : 1629883 : }
4123 : :
4124 : : /* Given a MINUS expression, simplify it if both sides
4125 : : include the same symbol. */
4126 : :
4127 : : rtx
4128 : 4352139 : simplify_subtraction (rtx x)
4129 : : {
4130 : 4352139 : rtx r = simplify_rtx (x);
4131 : 4352139 : return r ? r : x;
4132 : : }
4133 : :
4134 : : /* Given a constant rtx X, make (or find) a memory constant for its value
4135 : : and return a MEM rtx to refer to it in memory. IN_MODE is the mode
4136 : : of X. */
4137 : :
4138 : : rtx
4139 : 3940289 : force_const_mem (machine_mode in_mode, rtx x)
4140 : : {
4141 : 3940289 : class constant_descriptor_rtx *desc, tmp;
4142 : 3940289 : struct rtx_constant_pool *pool;
4143 : 3940289 : char label[256];
4144 : 3940289 : rtx def, symbol;
4145 : 3940289 : hashval_t hash;
4146 : 3940289 : unsigned int align;
4147 : 3940289 : constant_descriptor_rtx **slot;
4148 : 3940289 : fixed_size_mode mode;
4149 : :
4150 : : /* We can't force variable-sized objects to memory. */
4151 : 3940289 : if (!is_a <fixed_size_mode> (in_mode, &mode))
4152 : : return NULL_RTX;
4153 : :
4154 : : /* If we're not allowed to drop X into the constant pool, don't. */
4155 : 3940289 : if (targetm.cannot_force_const_mem (mode, x))
4156 : : return NULL_RTX;
4157 : :
4158 : : /* Record that this function has used a constant pool entry. */
4159 : 3919669 : crtl->uses_const_pool = 1;
4160 : :
4161 : : /* Decide which pool to use. */
4162 : 3919669 : pool = (targetm.use_blocks_for_constant_p (mode, x)
4163 : 3919669 : ? shared_constant_pool
4164 : : : crtl->varasm.pool);
4165 : :
4166 : : /* Lookup the value in the hashtable. */
4167 : 3919669 : tmp.constant = x;
4168 : 3919669 : tmp.mode = mode;
4169 : 3919669 : hash = const_rtx_hash (x);
4170 : 3919669 : slot = pool->const_rtx_htab->find_slot_with_hash (&tmp, hash, INSERT);
4171 : 3919669 : desc = *slot;
4172 : :
4173 : : /* If the constant was already present, return its memory. */
4174 : 3919669 : if (desc)
4175 : 3573225 : return copy_rtx (desc->mem);
4176 : :
4177 : : /* Otherwise, create a new descriptor. */
4178 : 346444 : desc = ggc_alloc<constant_descriptor_rtx> ();
4179 : 346444 : *slot = desc;
4180 : :
4181 : : /* Align the location counter as required by EXP's data type. */
4182 : 346444 : machine_mode align_mode = (mode == VOIDmode ? word_mode : mode);
4183 : 346444 : align = targetm.static_rtx_alignment (align_mode);
4184 : :
4185 : 346444 : pool->offset += (align / BITS_PER_UNIT) - 1;
4186 : 346444 : pool->offset &= ~ ((align / BITS_PER_UNIT) - 1);
4187 : :
4188 : 346444 : desc->next = NULL;
4189 : 346444 : desc->constant = copy_rtx (tmp.constant);
4190 : 346444 : desc->offset = pool->offset;
4191 : 346444 : desc->hash = hash;
4192 : 346444 : desc->mode = mode;
4193 : 346444 : desc->align = align;
4194 : 346444 : desc->labelno = const_labelno;
4195 : 346444 : desc->mark = 0;
4196 : :
4197 : 346444 : pool->offset += GET_MODE_SIZE (mode);
4198 : 346444 : if (pool->last)
4199 : 303372 : pool->last->next = desc;
4200 : : else
4201 : 43072 : pool->first = pool->last = desc;
4202 : 346444 : pool->last = desc;
4203 : :
4204 : : /* Create a string containing the label name, in LABEL. */
4205 : 346444 : ASM_GENERATE_INTERNAL_LABEL (label, "LC", const_labelno);
4206 : 346444 : ++const_labelno;
4207 : :
4208 : : /* Construct the SYMBOL_REF. Make sure to mark it as belonging to
4209 : : the constants pool. */
4210 : 346444 : if (use_object_blocks_p () && targetm.use_blocks_for_constant_p (mode, x))
4211 : : {
4212 : 0 : section *sect = targetm.asm_out.select_rtx_section (mode, x, align);
4213 : 0 : symbol = create_block_symbol (ggc_strdup (label),
4214 : : get_block_for_section (sect), -1);
4215 : : }
4216 : : else
4217 : 346444 : symbol = gen_rtx_SYMBOL_REF (Pmode, ggc_strdup (label));
4218 : 346444 : desc->sym = symbol;
4219 : 346444 : SYMBOL_REF_FLAGS (symbol) |= SYMBOL_FLAG_LOCAL;
4220 : 346444 : CONSTANT_POOL_ADDRESS_P (symbol) = 1;
4221 : 346444 : SET_SYMBOL_REF_CONSTANT (symbol, desc);
4222 : :
4223 : : /* Construct the MEM. */
4224 : 346444 : desc->mem = def = gen_const_mem (mode, symbol);
4225 : 346444 : set_mem_align (def, align);
4226 : :
4227 : : /* If we're dropping a label to the constant pool, make sure we
4228 : : don't delete it. */
4229 : 346444 : if (GET_CODE (x) == LABEL_REF)
4230 : 29 : LABEL_PRESERVE_P (XEXP (x, 0)) = 1;
4231 : :
4232 : 346444 : return copy_rtx (def);
4233 : : }
4234 : :
4235 : : /* Given a constant pool SYMBOL_REF, return the corresponding constant. */
4236 : :
4237 : : rtx
4238 : 11559642 : get_pool_constant (const_rtx addr)
4239 : : {
4240 : 11559642 : return SYMBOL_REF_CONSTANT (addr)->constant;
4241 : : }
4242 : :
4243 : : /* Given a constant pool SYMBOL_REF, return the corresponding constant
4244 : : and whether it has been output or not. */
4245 : :
4246 : : rtx
4247 : 0 : get_pool_constant_mark (rtx addr, bool *pmarked)
4248 : : {
4249 : 0 : class constant_descriptor_rtx *desc;
4250 : :
4251 : 0 : desc = SYMBOL_REF_CONSTANT (addr);
4252 : 0 : *pmarked = (desc->mark != 0);
4253 : 0 : return desc->constant;
4254 : : }
4255 : :
4256 : : /* Similar, return the mode. */
4257 : :
4258 : : fixed_size_mode
4259 : 5228313 : get_pool_mode (const_rtx addr)
4260 : : {
4261 : 5228313 : return SYMBOL_REF_CONSTANT (addr)->mode;
4262 : : }
4263 : :
4264 : : /* Return TRUE if and only if the constant pool has no entries. Note
4265 : : that even entries we might end up choosing not to emit are counted
4266 : : here, so there is the potential for missed optimizations. */
4267 : :
4268 : : bool
4269 : 0 : constant_pool_empty_p (void)
4270 : : {
4271 : 0 : return crtl->varasm.pool->first == NULL;
4272 : : }
4273 : :
4274 : : /* Worker function for output_constant_pool_1. Emit assembly for X
4275 : : in MODE with known alignment ALIGN. */
4276 : :
4277 : : static void
4278 : 681979 : output_constant_pool_2 (fixed_size_mode mode, rtx x, unsigned int align)
4279 : : {
4280 : 681979 : switch (GET_MODE_CLASS (mode))
4281 : : {
4282 : 197979 : case MODE_FLOAT:
4283 : 197979 : case MODE_DECIMAL_FLOAT:
4284 : 197979 : {
4285 : 197979 : gcc_assert (CONST_DOUBLE_AS_FLOAT_P (x));
4286 : 197979 : assemble_real (*CONST_DOUBLE_REAL_VALUE (x),
4287 : : as_a <scalar_float_mode> (mode), align, false);
4288 : 197979 : break;
4289 : : }
4290 : :
4291 : 382692 : case MODE_INT:
4292 : 382692 : case MODE_PARTIAL_INT:
4293 : 382692 : case MODE_FRACT:
4294 : 382692 : case MODE_UFRACT:
4295 : 382692 : case MODE_ACCUM:
4296 : 382692 : case MODE_UACCUM:
4297 : 382692 : assemble_integer (x, GET_MODE_SIZE (mode), align, 1);
4298 : 382692 : break;
4299 : :
4300 : 0 : case MODE_VECTOR_BOOL:
4301 : 0 : {
4302 : 0 : gcc_assert (GET_CODE (x) == CONST_VECTOR);
4303 : :
4304 : : /* Pick the smallest integer mode that contains at least one
4305 : : whole element. Often this is byte_mode and contains more
4306 : : than one element. */
4307 : 0 : unsigned int nelts = GET_MODE_NUNITS (mode);
4308 : 0 : unsigned int elt_bits = GET_MODE_PRECISION (mode) / nelts;
4309 : 0 : unsigned int int_bits = MAX (elt_bits, BITS_PER_UNIT);
4310 : 0 : scalar_int_mode int_mode = int_mode_for_size (int_bits, 0).require ();
4311 : 0 : unsigned int mask = GET_MODE_MASK (GET_MODE_INNER (mode));
4312 : :
4313 : : /* We allow GET_MODE_PRECISION (mode) <= GET_MODE_BITSIZE (mode) but
4314 : : only properly handle cases where the difference is less than a
4315 : : byte. */
4316 : 0 : gcc_assert (GET_MODE_BITSIZE (mode) - GET_MODE_PRECISION (mode) <
4317 : : BITS_PER_UNIT);
4318 : :
4319 : : /* Build the constant up one integer at a time. */
4320 : 0 : unsigned int elts_per_int = int_bits / elt_bits;
4321 : 0 : for (unsigned int i = 0; i < nelts; i += elts_per_int)
4322 : : {
4323 : 0 : unsigned HOST_WIDE_INT value = 0;
4324 : 0 : unsigned int limit = MIN (nelts - i, elts_per_int);
4325 : 0 : for (unsigned int j = 0; j < limit; ++j)
4326 : : {
4327 : 0 : auto elt = INTVAL (CONST_VECTOR_ELT (x, i + j));
4328 : 0 : value |= (elt & mask) << (j * elt_bits);
4329 : : }
4330 : 0 : output_constant_pool_2 (int_mode, gen_int_mode (value, int_mode),
4331 : 0 : i != 0 ? MIN (align, int_bits) : align);
4332 : : }
4333 : : break;
4334 : : }
4335 : 101308 : case MODE_VECTOR_FLOAT:
4336 : 101308 : case MODE_VECTOR_INT:
4337 : 101308 : case MODE_VECTOR_FRACT:
4338 : 101308 : case MODE_VECTOR_UFRACT:
4339 : 101308 : case MODE_VECTOR_ACCUM:
4340 : 101308 : case MODE_VECTOR_UACCUM:
4341 : 101308 : {
4342 : 101308 : int i, units;
4343 : 101308 : scalar_mode submode = GET_MODE_INNER (mode);
4344 : 303924 : unsigned int subalign = MIN (align, GET_MODE_BITSIZE (submode));
4345 : :
4346 : 101308 : gcc_assert (GET_CODE (x) == CONST_VECTOR);
4347 : 101308 : units = GET_MODE_NUNITS (mode);
4348 : :
4349 : 524622 : for (i = 0; i < units; i++)
4350 : : {
4351 : 423314 : rtx elt = CONST_VECTOR_ELT (x, i);
4352 : 524622 : output_constant_pool_2 (submode, elt, i ? subalign : align);
4353 : : }
4354 : : }
4355 : : break;
4356 : :
4357 : 0 : default:
4358 : 0 : gcc_unreachable ();
4359 : : }
4360 : 681979 : }
4361 : :
4362 : : /* Worker function for output_constant_pool. Emit constant DESC,
4363 : : giving it ALIGN bits of alignment. */
4364 : :
4365 : : static void
4366 : 258665 : output_constant_pool_1 (class constant_descriptor_rtx *desc,
4367 : : unsigned int align)
4368 : : {
4369 : 258665 : rtx x, tmp;
4370 : :
4371 : 258665 : x = desc->constant;
4372 : :
4373 : : /* See if X is a LABEL_REF (or a CONST referring to a LABEL_REF)
4374 : : whose CODE_LABEL has been deleted. This can occur if a jump table
4375 : : is eliminated by optimization. If so, write a constant of zero
4376 : : instead. Note that this can also happen by turning the
4377 : : CODE_LABEL into a NOTE. */
4378 : : /* ??? This seems completely and utterly wrong. Certainly it's
4379 : : not true for NOTE_INSN_DELETED_LABEL, but I disbelieve proper
4380 : : functioning even with rtx_insn::deleted and friends. */
4381 : :
4382 : 258665 : tmp = x;
4383 : 258665 : switch (GET_CODE (tmp))
4384 : : {
4385 : 3596 : case CONST:
4386 : 3596 : if (GET_CODE (XEXP (tmp, 0)) != PLUS
4387 : 3596 : || GET_CODE (XEXP (XEXP (tmp, 0), 0)) != LABEL_REF)
4388 : : break;
4389 : : tmp = XEXP (XEXP (tmp, 0), 0);
4390 : : /* FALLTHRU */
4391 : :
4392 : 29 : case LABEL_REF:
4393 : 29 : {
4394 : 29 : rtx_insn *insn = label_ref_label (tmp);
4395 : 29 : gcc_assert (!insn->deleted ());
4396 : 29 : gcc_assert (!NOTE_P (insn)
4397 : : || NOTE_KIND (insn) != NOTE_INSN_DELETED);
4398 : : break;
4399 : : }
4400 : :
4401 : : default:
4402 : : break;
4403 : : }
4404 : :
4405 : : #ifdef ASM_OUTPUT_SPECIAL_POOL_ENTRY
4406 : : ASM_OUTPUT_SPECIAL_POOL_ENTRY (asm_out_file, x, desc->mode,
4407 : : align, desc->labelno, done);
4408 : : #endif
4409 : :
4410 : 258665 : assemble_align (align);
4411 : :
4412 : : /* Output the label. */
4413 : 258665 : targetm.asm_out.internal_label (asm_out_file, "LC", desc->labelno);
4414 : :
4415 : : /* Output the data.
4416 : : Pass actual alignment value while emitting string constant to asm code
4417 : : as function 'output_constant_pool_1' explicitly passes the alignment as 1
4418 : : assuming that the data is already aligned which prevents the generation
4419 : : of fix-up table entries. */
4420 : 258665 : output_constant_pool_2 (desc->mode, x, desc->align);
4421 : :
4422 : : /* Make sure all constants in SECTION_MERGE and not SECTION_STRINGS
4423 : : sections have proper size. */
4424 : 258665 : if (align > GET_MODE_BITSIZE (desc->mode)
4425 : 97 : && in_section
4426 : 258762 : && (in_section->common.flags & SECTION_MERGE))
4427 : 97 : assemble_align (align);
4428 : :
4429 : : #ifdef ASM_OUTPUT_SPECIAL_POOL_ENTRY
4430 : : done:
4431 : : #endif
4432 : 258665 : return;
4433 : : }
4434 : :
4435 : : /* Recompute the offsets of entries in POOL, and the overall size of
4436 : : POOL. Do this after calling mark_constant_pool to ensure that we
4437 : : are computing the offset values for the pool which we will actually
4438 : : emit. */
4439 : :
4440 : : static void
4441 : 1417414 : recompute_pool_offsets (struct rtx_constant_pool *pool)
4442 : : {
4443 : 1417414 : class constant_descriptor_rtx *desc;
4444 : 1417414 : pool->offset = 0;
4445 : :
4446 : 1417414 : for (desc = pool->first; desc ; desc = desc->next)
4447 : 0 : if (desc->mark)
4448 : : {
4449 : : /* Recalculate offset. */
4450 : 0 : unsigned int align = desc->align;
4451 : 0 : pool->offset += (align / BITS_PER_UNIT) - 1;
4452 : 0 : pool->offset &= ~ ((align / BITS_PER_UNIT) - 1);
4453 : 0 : desc->offset = pool->offset;
4454 : 0 : pool->offset += GET_MODE_SIZE (desc->mode);
4455 : : }
4456 : 1417414 : }
4457 : :
4458 : : /* Mark all constants that are referenced by SYMBOL_REFs in X.
4459 : : Emit referenced deferred strings. */
4460 : :
4461 : : static void
4462 : 37205929 : mark_constants_in_pattern (rtx insn)
4463 : : {
4464 : 37205929 : subrtx_iterator::array_type array;
4465 : 249075306 : FOR_EACH_SUBRTX (iter, array, PATTERN (insn), ALL)
4466 : : {
4467 : 211869377 : const_rtx x = *iter;
4468 : 211869377 : if (GET_CODE (x) == SYMBOL_REF)
4469 : : {
4470 : 7399028 : if (CONSTANT_POOL_ADDRESS_P (x))
4471 : : {
4472 : 803604 : class constant_descriptor_rtx *desc = SYMBOL_REF_CONSTANT (x);
4473 : 803604 : if (desc->mark == 0)
4474 : : {
4475 : 268350 : desc->mark = 1;
4476 : 268350 : iter.substitute (desc->constant);
4477 : : }
4478 : : }
4479 : 6595424 : else if (TREE_CONSTANT_POOL_ADDRESS_P (x))
4480 : : {
4481 : 638026 : tree decl = SYMBOL_REF_DECL (x);
4482 : 638026 : if (!TREE_ASM_WRITTEN (DECL_INITIAL (decl)))
4483 : : {
4484 : 6754 : n_deferred_constants--;
4485 : 6754 : output_constant_def_contents (CONST_CAST_RTX (x));
4486 : : }
4487 : : }
4488 : : }
4489 : : }
4490 : 37205929 : }
4491 : :
4492 : : /* Look through appropriate parts of INSN, marking all entries in the
4493 : : constant pool which are actually being used. Entries that are only
4494 : : referenced by other constants are also marked as used. Emit
4495 : : deferred strings that are used. */
4496 : :
4497 : : static void
4498 : 78279047 : mark_constants (rtx_insn *insn)
4499 : : {
4500 : 78279047 : if (!INSN_P (insn))
4501 : : return;
4502 : :
4503 : : /* Insns may appear inside a SEQUENCE. Only check the patterns of
4504 : : insns, not any notes that may be attached. We don't want to mark
4505 : : a constant just because it happens to appear in a REG_EQUIV note. */
4506 : 37205929 : if (rtx_sequence *seq = dyn_cast <rtx_sequence *> (PATTERN (insn)))
4507 : : {
4508 : 0 : int i, n = seq->len ();
4509 : 0 : for (i = 0; i < n; ++i)
4510 : : {
4511 : 0 : rtx subinsn = seq->element (i);
4512 : 0 : if (INSN_P (subinsn))
4513 : 0 : mark_constants_in_pattern (subinsn);
4514 : : }
4515 : : }
4516 : : else
4517 : 37205929 : mark_constants_in_pattern (insn);
4518 : : }
4519 : :
4520 : : /* Look through the instructions for this function, and mark all the
4521 : : entries in POOL which are actually being used. Emit deferred constants
4522 : : which have indeed been used. */
4523 : :
4524 : : static void
4525 : 1417414 : mark_constant_pool (void)
4526 : : {
4527 : 1417414 : rtx_insn *insn;
4528 : :
4529 : 1417414 : if (!crtl->uses_const_pool && n_deferred_constants == 0)
4530 : : return;
4531 : :
4532 : 78449584 : for (insn = get_insns (); insn; insn = NEXT_INSN (insn))
4533 : 78279047 : mark_constants (insn);
4534 : : }
4535 : :
4536 : : /* Write all the constants in POOL. */
4537 : :
4538 : : static void
4539 : 1641474 : output_constant_pool_contents (struct rtx_constant_pool *pool)
4540 : : {
4541 : 1641474 : class constant_descriptor_rtx *desc;
4542 : :
4543 : 1987886 : for (desc = pool->first; desc ; desc = desc->next)
4544 : 346412 : if (desc->mark < 0)
4545 : : {
4546 : : #ifdef ASM_OUTPUT_DEF
4547 : 9685 : gcc_checking_assert (TARGET_SUPPORTS_ALIASES);
4548 : :
4549 : 9685 : const char *name = XSTR (desc->sym, 0);
4550 : 9685 : char label[256];
4551 : 9685 : char buffer[256 + 32];
4552 : 9685 : const char *p;
4553 : :
4554 : 9685 : ASM_GENERATE_INTERNAL_LABEL (label, "LC", ~desc->mark);
4555 : 9685 : p = label;
4556 : 9685 : if (desc->offset)
4557 : : {
4558 : 3268 : sprintf (buffer, "%s+" HOST_WIDE_INT_PRINT_DEC, p, desc->offset);
4559 : 3268 : p = buffer;
4560 : : }
4561 : 9685 : ASM_OUTPUT_DEF (asm_out_file, name, p);
4562 : : #else
4563 : : gcc_unreachable ();
4564 : : #endif
4565 : : }
4566 : 336727 : else if (desc->mark)
4567 : : {
4568 : : /* If the constant is part of an object_block, make sure that
4569 : : the constant has been positioned within its block, but do not
4570 : : write out its definition yet. output_object_blocks will do
4571 : : that later. */
4572 : 258665 : if (SYMBOL_REF_HAS_BLOCK_INFO_P (desc->sym)
4573 : 258665 : && SYMBOL_REF_BLOCK (desc->sym))
4574 : 0 : place_block_symbol (desc->sym);
4575 : : else
4576 : : {
4577 : 258665 : switch_to_section (targetm.asm_out.select_rtx_section
4578 : 258665 : (desc->mode, desc->constant, desc->align));
4579 : 258665 : output_constant_pool_1 (desc, desc->align);
4580 : : }
4581 : : }
4582 : 1641474 : }
4583 : :
4584 : : struct constant_descriptor_rtx_data {
4585 : : constant_descriptor_rtx *desc;
4586 : : target_unit *bytes;
4587 : : unsigned short size;
4588 : : unsigned short offset;
4589 : : unsigned int hash;
4590 : : };
4591 : :
4592 : : /* qsort callback to sort constant_descriptor_rtx_data * vector by
4593 : : decreasing size. */
4594 : :
4595 : : static int
4596 : 3999248 : constant_descriptor_rtx_data_cmp (const void *p1, const void *p2)
4597 : : {
4598 : 3999248 : constant_descriptor_rtx_data *const data1
4599 : : = *(constant_descriptor_rtx_data * const *) p1;
4600 : 3999248 : constant_descriptor_rtx_data *const data2
4601 : : = *(constant_descriptor_rtx_data * const *) p2;
4602 : 3999248 : if (data1->size > data2->size)
4603 : : return -1;
4604 : 3637773 : if (data1->size < data2->size)
4605 : : return 1;
4606 : 3367963 : if (data1->hash < data2->hash)
4607 : : return -1;
4608 : 1748608 : gcc_assert (data1->hash > data2->hash);
4609 : : return 1;
4610 : : }
4611 : :
4612 : : struct const_rtx_data_hasher : nofree_ptr_hash<constant_descriptor_rtx_data>
4613 : : {
4614 : : static hashval_t hash (constant_descriptor_rtx_data *);
4615 : : static bool equal (constant_descriptor_rtx_data *,
4616 : : constant_descriptor_rtx_data *);
4617 : : };
4618 : :
4619 : : /* Hash and compare functions for const_rtx_data_htab. */
4620 : :
4621 : : hashval_t
4622 : 2759011 : const_rtx_data_hasher::hash (constant_descriptor_rtx_data *data)
4623 : : {
4624 : 2759011 : return data->hash;
4625 : : }
4626 : :
4627 : : bool
4628 : 3000262 : const_rtx_data_hasher::equal (constant_descriptor_rtx_data *x,
4629 : : constant_descriptor_rtx_data *y)
4630 : : {
4631 : 3000262 : if (x->hash != y->hash || x->size != y->size)
4632 : : return false;
4633 : 201646 : unsigned int align1 = x->desc->align;
4634 : 201646 : unsigned int align2 = y->desc->align;
4635 : 201646 : unsigned int offset1 = (x->offset * BITS_PER_UNIT) & (align1 - 1);
4636 : 201646 : unsigned int offset2 = (y->offset * BITS_PER_UNIT) & (align2 - 1);
4637 : 201646 : if (offset1)
4638 : 107868 : align1 = least_bit_hwi (offset1);
4639 : 201646 : if (offset2)
4640 : 141555 : align2 = least_bit_hwi (offset2);
4641 : 201646 : if (align2 > align1)
4642 : : return false;
4643 : 169089 : if (memcmp (x->bytes, y->bytes, x->size * sizeof (target_unit)) != 0)
4644 : 0 : return false;
4645 : : return true;
4646 : : }
4647 : :
4648 : : /* Attempt to optimize constant pool POOL. If it contains both CONST_VECTOR
4649 : : constants and scalar constants with the values of CONST_VECTOR elements,
4650 : : try to alias the scalar constants with the CONST_VECTOR elements. */
4651 : :
4652 : : static void
4653 : 144740 : optimize_constant_pool (struct rtx_constant_pool *pool)
4654 : : {
4655 : 144740 : auto_vec<target_unit, 128> buffer;
4656 : 144740 : auto_vec<constant_descriptor_rtx_data *, 128> vec;
4657 : 144740 : object_allocator<constant_descriptor_rtx_data>
4658 : 144740 : data_pool ("constant_descriptor_rtx_data_pool");
4659 : 144740 : int idx = 0;
4660 : 144740 : size_t size = 0;
4661 : 449442 : for (constant_descriptor_rtx *desc = pool->first; desc; desc = desc->next)
4662 : 304702 : if (desc->mark > 0
4663 : 304702 : && ! (SYMBOL_REF_HAS_BLOCK_INFO_P (desc->sym)
4664 : 0 : && SYMBOL_REF_BLOCK (desc->sym)))
4665 : : {
4666 : 229958 : buffer.truncate (0);
4667 : 459916 : buffer.reserve (GET_MODE_SIZE (desc->mode));
4668 : 229958 : if (native_encode_rtx (desc->mode, desc->constant, buffer, 0,
4669 : 459916 : GET_MODE_SIZE (desc->mode)))
4670 : : {
4671 : 198586 : constant_descriptor_rtx_data *data = data_pool.allocate ();
4672 : 198586 : data->desc = desc;
4673 : 198586 : data->bytes = NULL;
4674 : 198586 : data->size = GET_MODE_SIZE (desc->mode);
4675 : 198586 : data->offset = 0;
4676 : 198586 : data->hash = idx++;
4677 : 198586 : size += data->size;
4678 : 198586 : vec.safe_push (data);
4679 : : }
4680 : : }
4681 : 144740 : if (idx)
4682 : : {
4683 : 30504 : vec.qsort (constant_descriptor_rtx_data_cmp);
4684 : 30504 : unsigned min_size = vec.last ()->size;
4685 : 30504 : target_unit *bytes = XNEWVEC (target_unit, size);
4686 : 30504 : unsigned int i;
4687 : 30504 : constant_descriptor_rtx_data *data;
4688 : 30504 : hash_table<const_rtx_data_hasher> * htab
4689 : 30504 : = new hash_table<const_rtx_data_hasher> (31);
4690 : 30504 : size = 0;
4691 : 229090 : FOR_EACH_VEC_ELT (vec, i, data)
4692 : : {
4693 : 198586 : buffer.truncate (0);
4694 : 198586 : native_encode_rtx (data->desc->mode, data->desc->constant,
4695 : 198586 : buffer, 0, data->size);
4696 : 198586 : memcpy (bytes + size, buffer.address (), data->size);
4697 : 198586 : data->bytes = bytes + size;
4698 : 397172 : data->hash = iterative_hash (data->bytes,
4699 : 198586 : data->size * sizeof (target_unit), 0);
4700 : 198586 : size += data->size;
4701 : 198586 : constant_descriptor_rtx_data **slot
4702 : 198586 : = htab->find_slot_with_hash (data, data->hash, INSERT);
4703 : 198586 : if (*slot)
4704 : : {
4705 : 9685 : data->desc->mark = ~(*slot)->desc->labelno;
4706 : 9685 : data->desc->offset = (*slot)->offset;
4707 : : }
4708 : : else
4709 : : {
4710 : 188901 : unsigned int sz = 1 << floor_log2 (data->size);
4711 : :
4712 : 188901 : *slot = data;
4713 : 303049 : for (sz >>= 1; sz >= min_size; sz >>= 1)
4714 : 497831 : for (unsigned off = 0; off + sz <= data->size; off += sz)
4715 : : {
4716 : 383683 : constant_descriptor_rtx_data tmp;
4717 : 383683 : tmp.desc = data->desc;
4718 : 383683 : tmp.bytes = data->bytes + off;
4719 : 383683 : tmp.size = sz;
4720 : 383683 : tmp.offset = off;
4721 : 383683 : tmp.hash = iterative_hash (tmp.bytes,
4722 : : sz * sizeof (target_unit), 0);
4723 : 383683 : slot = htab->find_slot_with_hash (&tmp, tmp.hash, INSERT);
4724 : 383683 : if (*slot == NULL)
4725 : : {
4726 : 224279 : *slot = data_pool.allocate ();
4727 : 224279 : **slot = tmp;
4728 : : }
4729 : : }
4730 : : }
4731 : : }
4732 : 30504 : delete htab;
4733 : 30504 : XDELETE (bytes);
4734 : : }
4735 : 144740 : data_pool.release ();
4736 : 144740 : }
4737 : :
4738 : : /* Mark all constants that are used in the current function, then write
4739 : : out the function's private constant pool. */
4740 : :
4741 : : static void
4742 : 1417414 : output_constant_pool (const char *fnname ATTRIBUTE_UNUSED,
4743 : : tree fndecl ATTRIBUTE_UNUSED)
4744 : : {
4745 : 1417414 : struct rtx_constant_pool *pool = crtl->varasm.pool;
4746 : :
4747 : : /* It is possible for gcc to call force_const_mem and then to later
4748 : : discard the instructions which refer to the constant. In such a
4749 : : case we do not need to output the constant. */
4750 : 1417414 : mark_constant_pool ();
4751 : :
4752 : : /* Having marked the constant pool entries we'll actually emit, we
4753 : : now need to rebuild the offset information, which may have become
4754 : : stale. */
4755 : 1417414 : recompute_pool_offsets (pool);
4756 : :
4757 : : #ifdef ASM_OUTPUT_POOL_PROLOGUE
4758 : : ASM_OUTPUT_POOL_PROLOGUE (asm_out_file, fnname, fndecl, pool->offset);
4759 : : #endif
4760 : :
4761 : 1417414 : output_constant_pool_contents (pool);
4762 : :
4763 : : #ifdef ASM_OUTPUT_POOL_EPILOGUE
4764 : : ASM_OUTPUT_POOL_EPILOGUE (asm_out_file, fnname, fndecl, pool->offset);
4765 : : #endif
4766 : 1417414 : }
4767 : :
4768 : : /* Write the contents of the shared constant pool. */
4769 : :
4770 : : void
4771 : 224060 : output_shared_constant_pool (void)
4772 : : {
4773 : 224060 : if (optimize
4774 : : && TARGET_SUPPORTS_ALIASES)
4775 : 144740 : optimize_constant_pool (shared_constant_pool);
4776 : :
4777 : 224060 : output_constant_pool_contents (shared_constant_pool);
4778 : 224060 : }
4779 : :
4780 : : /* Determine what kind of relocations EXP may need. */
4781 : :
4782 : : int
4783 : 35063222 : compute_reloc_for_constant (tree exp)
4784 : : {
4785 : 37531952 : int reloc = 0, reloc2;
4786 : 37531952 : tree tem;
4787 : :
4788 : 37531952 : switch (TREE_CODE (exp))
4789 : : {
4790 : 10032624 : case ADDR_EXPR:
4791 : 10032624 : case FDESC_EXPR:
4792 : : /* Go inside any operations that get_inner_reference can handle and see
4793 : : if what's inside is a constant: no need to do anything here for
4794 : : addresses of variables or functions. */
4795 : 10084909 : for (tem = TREE_OPERAND (exp, 0); handled_component_p (tem);
4796 : 52285 : tem = TREE_OPERAND (tem, 0))
4797 : : ;
4798 : :
4799 : 10032624 : if (TREE_CODE (tem) == MEM_REF
4800 : 10032624 : && TREE_CODE (TREE_OPERAND (tem, 0)) == ADDR_EXPR)
4801 : : {
4802 : 54806 : reloc = compute_reloc_for_constant (TREE_OPERAND (tem, 0));
4803 : 54806 : break;
4804 : : }
4805 : :
4806 : 9977818 : if (!targetm.binds_local_p (tem))
4807 : : reloc |= 2;
4808 : : else
4809 : 7654769 : reloc |= 1;
4810 : : break;
4811 : :
4812 : 19242 : case PLUS_EXPR:
4813 : 19242 : case POINTER_PLUS_EXPR:
4814 : 19242 : reloc = compute_reloc_for_constant (TREE_OPERAND (exp, 0));
4815 : 19242 : reloc |= compute_reloc_for_constant (TREE_OPERAND (exp, 1));
4816 : 19242 : break;
4817 : :
4818 : 26 : case MINUS_EXPR:
4819 : 26 : reloc = compute_reloc_for_constant (TREE_OPERAND (exp, 0));
4820 : 26 : reloc2 = compute_reloc_for_constant (TREE_OPERAND (exp, 1));
4821 : : /* The difference of two local labels is computable at link time. */
4822 : 26 : if (reloc == 1 && reloc2 == 1)
4823 : : reloc = 0;
4824 : : else
4825 : 0 : reloc |= reloc2;
4826 : : break;
4827 : :
4828 : 2413924 : CASE_CONVERT:
4829 : 2413924 : case VIEW_CONVERT_EXPR:
4830 : 2413924 : reloc = compute_reloc_for_constant (TREE_OPERAND (exp, 0));
4831 : 2413924 : break;
4832 : :
4833 : : case CONSTRUCTOR:
4834 : : {
4835 : : unsigned HOST_WIDE_INT idx;
4836 : 37202236 : FOR_EACH_CONSTRUCTOR_VALUE (CONSTRUCTOR_ELTS (exp), idx, tem)
4837 : 29324250 : if (tem != 0)
4838 : 29324250 : reloc |= compute_reloc_for_constant (tem);
4839 : : }
4840 : : break;
4841 : :
4842 : : default:
4843 : : break;
4844 : : }
4845 : 35063222 : return reloc;
4846 : : }
4847 : :
4848 : : /* Find all the constants whose addresses are referenced inside of EXP,
4849 : : and make sure assembler code with a label has been output for each one.
4850 : : Indicate whether an ADDR_EXPR has been encountered. */
4851 : :
4852 : : static void
4853 : 21889418 : output_addressed_constants (tree exp, int defer)
4854 : : {
4855 : 22366787 : tree tem;
4856 : :
4857 : 22366787 : switch (TREE_CODE (exp))
4858 : : {
4859 : 4523160 : case ADDR_EXPR:
4860 : 4523160 : case FDESC_EXPR:
4861 : : /* Go inside any operations that get_inner_reference can handle and see
4862 : : if what's inside is a constant: no need to do anything here for
4863 : : addresses of variables or functions. */
4864 : 4575662 : for (tem = TREE_OPERAND (exp, 0); handled_component_p (tem);
4865 : 52502 : tem = TREE_OPERAND (tem, 0))
4866 : : ;
4867 : :
4868 : : /* If we have an initialized CONST_DECL, retrieve the initializer. */
4869 : 4523160 : if (TREE_CODE (tem) == CONST_DECL && DECL_INITIAL (tem))
4870 : 0 : tem = DECL_INITIAL (tem);
4871 : :
4872 : 4523160 : if (CONSTANT_CLASS_P (tem) || TREE_CODE (tem) == CONSTRUCTOR)
4873 : 968415 : output_constant_def (tem, defer);
4874 : :
4875 : 4523160 : if (TREE_CODE (tem) == MEM_REF)
4876 : 50405 : output_addressed_constants (TREE_OPERAND (tem, 0), defer);
4877 : : break;
4878 : :
4879 : 16793 : case PLUS_EXPR:
4880 : 16793 : case POINTER_PLUS_EXPR:
4881 : 16793 : case MINUS_EXPR:
4882 : 16793 : output_addressed_constants (TREE_OPERAND (exp, 1), defer);
4883 : 426964 : gcc_fallthrough ();
4884 : :
4885 : 426964 : CASE_CONVERT:
4886 : 426964 : case VIEW_CONVERT_EXPR:
4887 : 426964 : output_addressed_constants (TREE_OPERAND (exp, 0), defer);
4888 : 426964 : break;
4889 : :
4890 : : case CONSTRUCTOR:
4891 : : {
4892 : : unsigned HOST_WIDE_INT idx;
4893 : 19004523 : FOR_EACH_CONSTRUCTOR_VALUE (CONSTRUCTOR_ELTS (exp), idx, tem)
4894 : 14966765 : if (tem != 0)
4895 : 14966765 : output_addressed_constants (tem, defer);
4896 : : }
4897 : : break;
4898 : :
4899 : : default:
4900 : : break;
4901 : : }
4902 : 21889418 : }
4903 : :
4904 : : /* Whether a constructor CTOR is a valid static constant initializer if all
4905 : : its elements are. This used to be internal to initializer_constant_valid_p
4906 : : and has been exposed to let other functions like categorize_ctor_elements
4907 : : evaluate the property while walking a constructor for other purposes. */
4908 : :
4909 : : bool
4910 : 10963989 : constructor_static_from_elts_p (const_tree ctor)
4911 : : {
4912 : 10963989 : return (TREE_CONSTANT (ctor)
4913 : 10963989 : && (TREE_CODE (TREE_TYPE (ctor)) == UNION_TYPE
4914 : 10349105 : || TREE_CODE (TREE_TYPE (ctor)) == RECORD_TYPE
4915 : 1381226 : || TREE_CODE (TREE_TYPE (ctor)) == ARRAY_TYPE));
4916 : : }
4917 : :
4918 : : static tree initializer_constant_valid_p_1 (tree value, tree endtype,
4919 : : tree *cache);
4920 : :
4921 : : /* A subroutine of initializer_constant_valid_p. VALUE is a MINUS_EXPR,
4922 : : PLUS_EXPR or POINTER_PLUS_EXPR. This looks for cases of VALUE
4923 : : which are valid when ENDTYPE is an integer of any size; in
4924 : : particular, this does not accept a pointer minus a constant. This
4925 : : returns null_pointer_node if the VALUE is an absolute constant
4926 : : which can be used to initialize a static variable. Otherwise it
4927 : : returns NULL. */
4928 : :
4929 : : static tree
4930 : 538435 : narrowing_initializer_constant_valid_p (tree value, tree endtype, tree *cache)
4931 : : {
4932 : 538435 : tree op0, op1;
4933 : :
4934 : 538435 : if (!INTEGRAL_TYPE_P (endtype))
4935 : : return NULL_TREE;
4936 : :
4937 : 506162 : op0 = TREE_OPERAND (value, 0);
4938 : 506162 : op1 = TREE_OPERAND (value, 1);
4939 : :
4940 : : /* Like STRIP_NOPS except allow the operand mode to widen. This
4941 : : works around a feature of fold that simplifies (int)(p1 - p2) to
4942 : : ((int)p1 - (int)p2) under the theory that the narrower operation
4943 : : is cheaper. */
4944 : :
4945 : 1001571 : while (CONVERT_EXPR_P (op0)
4946 : 1184247 : || TREE_CODE (op0) == NON_LVALUE_EXPR)
4947 : : {
4948 : 197998 : tree inner = TREE_OPERAND (op0, 0);
4949 : 395996 : if (inner == error_mark_node
4950 : 197998 : || ! INTEGRAL_TYPE_P (TREE_TYPE (op0))
4951 : 197738 : || ! SCALAR_INT_MODE_P (TYPE_MODE (TREE_TYPE (op0)))
4952 : 197738 : || ! INTEGRAL_TYPE_P (TREE_TYPE (inner))
4953 : 197585 : || ! SCALAR_INT_MODE_P (TYPE_MODE (TREE_TYPE (inner)))
4954 : 395583 : || (GET_MODE_SIZE (SCALAR_INT_TYPE_MODE (TREE_TYPE (op0)))
4955 : 408209 : > GET_MODE_SIZE (SCALAR_INT_TYPE_MODE (TREE_TYPE (inner)))))
4956 : : break;
4957 : : op0 = inner;
4958 : : }
4959 : :
4960 : 495126 : while (CONVERT_EXPR_P (op1)
4961 : 1068928 : || TREE_CODE (op1) == NON_LVALUE_EXPR)
4962 : : {
4963 : 87583 : tree inner = TREE_OPERAND (op1, 0);
4964 : 175166 : if (inner == error_mark_node
4965 : 87583 : || ! INTEGRAL_TYPE_P (TREE_TYPE (op1))
4966 : 82857 : || ! SCALAR_INT_MODE_P (TYPE_MODE (TREE_TYPE (op1)))
4967 : 82857 : || ! INTEGRAL_TYPE_P (TREE_TYPE (inner))
4968 : 82774 : || ! SCALAR_INT_MODE_P (TYPE_MODE (TREE_TYPE (inner)))
4969 : 170357 : || (GET_MODE_SIZE (SCALAR_INT_TYPE_MODE (TREE_TYPE (op1)))
4970 : 181271 : > GET_MODE_SIZE (SCALAR_INT_TYPE_MODE (TREE_TYPE (inner)))))
4971 : : break;
4972 : : op1 = inner;
4973 : : }
4974 : :
4975 : 506162 : op0 = initializer_constant_valid_p_1 (op0, endtype, cache);
4976 : 506162 : if (!op0)
4977 : : return NULL_TREE;
4978 : :
4979 : 831 : op1 = initializer_constant_valid_p_1 (op1, endtype,
4980 : : cache ? cache + 2 : NULL);
4981 : : /* Both initializers must be known. */
4982 : 831 : if (op1)
4983 : : {
4984 : 201 : if (op0 == op1
4985 : 30 : && (op0 == null_pointer_node
4986 : 11 : || TREE_CODE (value) == MINUS_EXPR))
4987 : : return null_pointer_node;
4988 : :
4989 : : /* Support differences between labels. */
4990 : 182 : if (TREE_CODE (op0) == LABEL_DECL
4991 : 169 : && TREE_CODE (op1) == LABEL_DECL)
4992 : 169 : return null_pointer_node;
4993 : :
4994 : 13 : if (TREE_CODE (op0) == STRING_CST
4995 : 0 : && TREE_CODE (op1) == STRING_CST
4996 : 13 : && operand_equal_p (op0, op1, 1))
4997 : 0 : return null_pointer_node;
4998 : : }
4999 : :
5000 : : return NULL_TREE;
5001 : : }
5002 : :
5003 : : /* Helper function of initializer_constant_valid_p.
5004 : : Return nonzero if VALUE is a valid constant-valued expression
5005 : : for use in initializing a static variable; one that can be an
5006 : : element of a "constant" initializer.
5007 : :
5008 : : Return null_pointer_node if the value is absolute;
5009 : : if it is relocatable, return the variable that determines the relocation.
5010 : : We assume that VALUE has been folded as much as possible;
5011 : : therefore, we do not need to check for such things as
5012 : : arithmetic-combinations of integers.
5013 : :
5014 : : Use CACHE (pointer to 2 tree values) for caching if non-NULL. */
5015 : :
5016 : : static tree
5017 : 575158103 : initializer_constant_valid_p_1 (tree value, tree endtype, tree *cache)
5018 : : {
5019 : 611770605 : tree ret;
5020 : :
5021 : 611770605 : switch (TREE_CODE (value))
5022 : : {
5023 : 9573196 : case CONSTRUCTOR:
5024 : 9573196 : if (constructor_static_from_elts_p (value))
5025 : : {
5026 : 9549712 : unsigned HOST_WIDE_INT idx;
5027 : 9549712 : tree elt;
5028 : 9549712 : bool absolute = true;
5029 : :
5030 : 9549712 : if (cache && cache[0] == value)
5031 : 0 : return cache[1];
5032 : 35989455 : FOR_EACH_CONSTRUCTOR_VALUE (CONSTRUCTOR_ELTS (value), idx, elt)
5033 : : {
5034 : 26439977 : tree reloc;
5035 : 26439977 : reloc = initializer_constant_valid_p_1 (elt, TREE_TYPE (elt),
5036 : : NULL);
5037 : 26439977 : if (!reloc
5038 : : /* An absolute value is required with reverse SSO. */
5039 : 26439977 : || (reloc != null_pointer_node
5040 : 9628394 : && TYPE_REVERSE_STORAGE_ORDER (TREE_TYPE (value))
5041 : 1 : && !AGGREGATE_TYPE_P (TREE_TYPE (elt))))
5042 : : {
5043 : 234 : if (cache)
5044 : : {
5045 : 0 : cache[0] = value;
5046 : 0 : cache[1] = NULL_TREE;
5047 : : }
5048 : 234 : return NULL_TREE;
5049 : : }
5050 : 26439743 : if (reloc != null_pointer_node)
5051 : 9628393 : absolute = false;
5052 : : }
5053 : : /* For a non-absolute relocation, there is no single
5054 : : variable that can be "the variable that determines the
5055 : : relocation." */
5056 : 9549478 : if (cache)
5057 : : {
5058 : 0 : cache[0] = value;
5059 : 0 : cache[1] = absolute ? null_pointer_node : error_mark_node;
5060 : : }
5061 : 9549478 : return absolute ? null_pointer_node : error_mark_node;
5062 : : }
5063 : :
5064 : 23484 : return TREE_STATIC (value) ? null_pointer_node : NULL_TREE;
5065 : :
5066 : 502097417 : case INTEGER_CST:
5067 : 502097417 : case VECTOR_CST:
5068 : 502097417 : case REAL_CST:
5069 : 502097417 : case FIXED_CST:
5070 : 502097417 : case STRING_CST:
5071 : 502097417 : case COMPLEX_CST:
5072 : 502097417 : case RAW_DATA_CST:
5073 : 502097417 : return null_pointer_node;
5074 : :
5075 : 35973368 : case ADDR_EXPR:
5076 : 35973368 : case FDESC_EXPR:
5077 : 35973368 : {
5078 : 35973368 : tree op0 = staticp (TREE_OPERAND (value, 0));
5079 : 35973368 : if (op0)
5080 : : {
5081 : : /* "&(*a).f" is like unto pointer arithmetic. If "a" turns out
5082 : : to be a constant, this is old-skool offsetof-like nonsense. */
5083 : 32951321 : if (TREE_CODE (op0) == INDIRECT_REF
5084 : 32951321 : && TREE_CONSTANT (TREE_OPERAND (op0, 0)))
5085 : 50 : return null_pointer_node;
5086 : : /* Taking the address of a nested function involves a trampoline,
5087 : : unless we don't need or want one. */
5088 : 32951271 : if (TREE_CODE (op0) == FUNCTION_DECL
5089 : 7553281 : && DECL_STATIC_CHAIN (op0)
5090 : 32951286 : && !TREE_NO_TRAMPOLINE (value))
5091 : : return NULL_TREE;
5092 : : /* "&{...}" requires a temporary to hold the constructed
5093 : : object. */
5094 : 32951256 : if (TREE_CODE (op0) == CONSTRUCTOR)
5095 : : return NULL_TREE;
5096 : : }
5097 : : return op0;
5098 : : }
5099 : :
5100 : 875287 : case NON_LVALUE_EXPR:
5101 : 875287 : return initializer_constant_valid_p_1 (TREE_OPERAND (value, 0),
5102 : 875287 : endtype, cache);
5103 : :
5104 : 1004216 : case VIEW_CONVERT_EXPR:
5105 : 1004216 : {
5106 : 1004216 : tree src = TREE_OPERAND (value, 0);
5107 : 1004216 : tree src_type = TREE_TYPE (src);
5108 : 1004216 : tree dest_type = TREE_TYPE (value);
5109 : :
5110 : : /* Allow view-conversions from aggregate to non-aggregate type only
5111 : : if the bit pattern is fully preserved afterwards; otherwise, the
5112 : : RTL expander won't be able to apply a subsequent transformation
5113 : : to the underlying constructor. */
5114 : 1004216 : if (AGGREGATE_TYPE_P (src_type) && !AGGREGATE_TYPE_P (dest_type))
5115 : : {
5116 : 0 : if (TYPE_MODE (endtype) == TYPE_MODE (dest_type))
5117 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5118 : : else
5119 : : return NULL_TREE;
5120 : : }
5121 : :
5122 : : /* Allow all other kinds of view-conversion. */
5123 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5124 : : }
5125 : :
5126 : 35102936 : CASE_CONVERT:
5127 : 35102936 : {
5128 : 35102936 : tree src = TREE_OPERAND (value, 0);
5129 : 35102936 : tree src_type = TREE_TYPE (src);
5130 : 35102936 : tree dest_type = TREE_TYPE (value);
5131 : :
5132 : : /* Allow conversions between pointer types and offset types. */
5133 : 35102936 : if ((POINTER_TYPE_P (dest_type) && POINTER_TYPE_P (src_type))
5134 : 1495737 : || (TREE_CODE (dest_type) == OFFSET_TYPE
5135 : 82 : && TREE_CODE (src_type) == OFFSET_TYPE))
5136 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5137 : :
5138 : : /* Allow length-preserving conversions between integer types and
5139 : : floating-point types. */
5140 : 1247859 : if (((INTEGRAL_TYPE_P (dest_type) && INTEGRAL_TYPE_P (src_type))
5141 : 314145 : || (SCALAR_FLOAT_TYPE_P (dest_type)
5142 : 65701 : && SCALAR_FLOAT_TYPE_P (src_type)))
5143 : 2742902 : && (TYPE_PRECISION (dest_type) == TYPE_PRECISION (src_type)))
5144 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5145 : :
5146 : : /* Allow conversions between other integer types only if
5147 : : explicit value. Don't allow sign-extension to a type larger
5148 : : than word and pointer, there aren't relocations that would
5149 : : allow to sign extend it to a wider type. */
5150 : 554088 : if (INTEGRAL_TYPE_P (dest_type)
5151 : 369039 : && INTEGRAL_TYPE_P (src_type)
5152 : 856796 : && (TYPE_UNSIGNED (src_type)
5153 : 98114 : || TYPE_PRECISION (dest_type) <= TYPE_PRECISION (src_type)
5154 : 64022 : || TYPE_PRECISION (dest_type) <= BITS_PER_WORD
5155 : 708 : || TYPE_PRECISION (dest_type) <= POINTER_SIZE))
5156 : : {
5157 : 302354 : tree inner = initializer_constant_valid_p_1 (src, endtype, cache);
5158 : 302354 : if (inner == null_pointer_node)
5159 : : return null_pointer_node;
5160 : : break;
5161 : : }
5162 : :
5163 : : /* Allow (int) &foo provided int is as wide as a pointer. */
5164 : 66685 : if (INTEGRAL_TYPE_P (dest_type) && POINTER_TYPE_P (src_type)
5165 : 318050 : && (TYPE_PRECISION (dest_type) >= TYPE_PRECISION (src_type)))
5166 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5167 : :
5168 : : /* Likewise conversions from int to pointers, but also allow
5169 : : conversions from 0. */
5170 : 185621 : if ((POINTER_TYPE_P (dest_type)
5171 : 121244 : || TREE_CODE (dest_type) == OFFSET_TYPE)
5172 : 64395 : && INTEGRAL_TYPE_P (src_type))
5173 : : {
5174 : 543 : if (TREE_CODE (src) == INTEGER_CST
5175 : 543 : && TYPE_PRECISION (dest_type) >= TYPE_PRECISION (src_type))
5176 : 0 : return null_pointer_node;
5177 : 543 : if (integer_zerop (src))
5178 : 0 : return null_pointer_node;
5179 : 543 : else if (TYPE_PRECISION (dest_type) <= TYPE_PRECISION (src_type))
5180 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5181 : : }
5182 : :
5183 : : /* Allow conversions to struct or union types if the value
5184 : : inside is okay. */
5185 : 185078 : if (TREE_CODE (dest_type) == RECORD_TYPE
5186 : 185078 : || TREE_CODE (dest_type) == UNION_TYPE)
5187 : : return initializer_constant_valid_p_1 (src, endtype, cache);
5188 : : }
5189 : : break;
5190 : :
5191 : 4971547 : case POINTER_PLUS_EXPR:
5192 : 4971547 : case PLUS_EXPR:
5193 : : /* Any valid floating-point constants will have been folded by now;
5194 : : with -frounding-math we hit this with addition of two constants. */
5195 : 4971547 : if (TREE_CODE (endtype) == REAL_TYPE)
5196 : : return NULL_TREE;
5197 : 3998528 : if (cache && cache[0] == value)
5198 : 73531 : return cache[1];
5199 : 3924997 : if (! INTEGRAL_TYPE_P (endtype)
5200 : 395273 : || ! INTEGRAL_TYPE_P (TREE_TYPE (value))
5201 : 4319799 : || TYPE_PRECISION (endtype) >= TYPE_PRECISION (TREE_TYPE (value)))
5202 : : {
5203 : 3924927 : tree ncache[4] = { NULL_TREE, NULL_TREE, NULL_TREE, NULL_TREE };
5204 : 3924927 : tree valid0
5205 : 3924927 : = initializer_constant_valid_p_1 (TREE_OPERAND (value, 0),
5206 : : endtype, ncache);
5207 : 3924927 : tree valid1
5208 : 3924927 : = initializer_constant_valid_p_1 (TREE_OPERAND (value, 1),
5209 : : endtype, ncache + 2);
5210 : : /* If either term is absolute, use the other term's relocation. */
5211 : 3924927 : if (valid0 == null_pointer_node)
5212 : : ret = valid1;
5213 : 3922475 : else if (valid1 == null_pointer_node)
5214 : : ret = valid0;
5215 : : /* Support narrowing pointer differences. */
5216 : : else
5217 : 185714 : ret = narrowing_initializer_constant_valid_p (value, endtype,
5218 : : ncache);
5219 : : }
5220 : : else
5221 : : /* Support narrowing pointer differences. */
5222 : 70 : ret = narrowing_initializer_constant_valid_p (value, endtype, NULL);
5223 : 3924997 : if (cache)
5224 : : {
5225 : 73814 : cache[0] = value;
5226 : 73814 : cache[1] = ret;
5227 : : }
5228 : : return ret;
5229 : :
5230 : 1102513 : case POINTER_DIFF_EXPR:
5231 : 1102513 : case MINUS_EXPR:
5232 : 1102513 : if (TREE_CODE (endtype) == REAL_TYPE)
5233 : : return NULL_TREE;
5234 : 601133 : if (cache && cache[0] == value)
5235 : 84944 : return cache[1];
5236 : 516189 : if (! INTEGRAL_TYPE_P (endtype)
5237 : 516152 : || ! INTEGRAL_TYPE_P (TREE_TYPE (value))
5238 : 1032338 : || TYPE_PRECISION (endtype) >= TYPE_PRECISION (TREE_TYPE (value)))
5239 : : {
5240 : 502633 : tree ncache[4] = { NULL_TREE, NULL_TREE, NULL_TREE, NULL_TREE };
5241 : 502633 : tree valid0
5242 : 502633 : = initializer_constant_valid_p_1 (TREE_OPERAND (value, 0),
5243 : : endtype, ncache);
5244 : 502633 : tree valid1
5245 : 502633 : = initializer_constant_valid_p_1 (TREE_OPERAND (value, 1),
5246 : : endtype, ncache + 2);
5247 : : /* Win if second argument is absolute. */
5248 : 502633 : if (valid1 == null_pointer_node)
5249 : : ret = valid0;
5250 : : /* Win if both arguments have the same relocation.
5251 : : Then the value is absolute. */
5252 : 339095 : else if (valid0 == valid1 && valid0 != 0)
5253 : : ret = null_pointer_node;
5254 : : /* Since GCC guarantees that string constants are unique in the
5255 : : generated code, a subtraction between two copies of the same
5256 : : constant string is absolute. */
5257 : 704 : else if (valid0 && TREE_CODE (valid0) == STRING_CST
5258 : 0 : && valid1 && TREE_CODE (valid1) == STRING_CST
5259 : 339095 : && operand_equal_p (valid0, valid1, 1))
5260 : 0 : ret = null_pointer_node;
5261 : : /* Support narrowing differences. */
5262 : : else
5263 : 339095 : ret = narrowing_initializer_constant_valid_p (value, endtype,
5264 : : ncache);
5265 : : }
5266 : : else
5267 : : /* Support narrowing differences. */
5268 : 13556 : ret = narrowing_initializer_constant_valid_p (value, endtype, NULL);
5269 : 516189 : if (cache)
5270 : : {
5271 : 86329 : cache[0] = value;
5272 : 86329 : cache[1] = ret;
5273 : : }
5274 : : return ret;
5275 : :
5276 : : default:
5277 : : break;
5278 : : }
5279 : :
5280 : : return NULL_TREE;
5281 : : }
5282 : :
5283 : : /* Return nonzero if VALUE is a valid constant-valued expression
5284 : : for use in initializing a static variable; one that can be an
5285 : : element of a "constant" initializer.
5286 : :
5287 : : Return null_pointer_node if the value is absolute;
5288 : : if it is relocatable, return the variable that determines the relocation.
5289 : : We assume that VALUE has been folded as much as possible;
5290 : : therefore, we do not need to check for such things as
5291 : : arithmetic-combinations of integers. */
5292 : : tree
5293 : 539053659 : initializer_constant_valid_p (tree value, tree endtype, bool reverse)
5294 : : {
5295 : 539053659 : tree reloc = initializer_constant_valid_p_1 (value, endtype, NULL);
5296 : :
5297 : : /* An absolute value is required with reverse storage order. */
5298 : 539053659 : if (reloc
5299 : 514275921 : && reloc != null_pointer_node
5300 : 29882295 : && reverse
5301 : 1 : && !AGGREGATE_TYPE_P (endtype)
5302 : 1 : && !VECTOR_TYPE_P (endtype))
5303 : 539053659 : reloc = NULL_TREE;
5304 : :
5305 : 539053659 : return reloc;
5306 : : }
5307 : :
5308 : : /* Return true if VALUE is a valid constant-valued expression
5309 : : for use in initializing a static bit-field; one that can be
5310 : : an element of a "constant" initializer. */
5311 : :
5312 : : bool
5313 : 349 : initializer_constant_valid_for_bitfield_p (const_tree value)
5314 : : {
5315 : : /* For bitfields we support integer constants or possibly nested aggregates
5316 : : of such. */
5317 : 349 : switch (TREE_CODE (value))
5318 : : {
5319 : : case CONSTRUCTOR:
5320 : : {
5321 : : unsigned HOST_WIDE_INT idx;
5322 : : const_tree elt;
5323 : :
5324 : 359 : FOR_EACH_CONSTRUCTOR_VALUE (CONSTRUCTOR_ELTS (value), idx, elt)
5325 : 238 : if (!initializer_constant_valid_for_bitfield_p (elt))
5326 : : return false;
5327 : : return true;
5328 : : }
5329 : :
5330 : : case INTEGER_CST:
5331 : : case REAL_CST:
5332 : : return true;
5333 : :
5334 : 0 : case VIEW_CONVERT_EXPR:
5335 : 0 : case NON_LVALUE_EXPR:
5336 : 0 : return
5337 : 0 : initializer_constant_valid_for_bitfield_p (TREE_OPERAND (value, 0));
5338 : :
5339 : : default:
5340 : : break;
5341 : : }
5342 : :
5343 : : return false;
5344 : : }
5345 : :
5346 : : /* Check if a STRING_CST fits into the field.
5347 : : Tolerate only the case when the NUL termination
5348 : : does not fit into the field. */
5349 : :
5350 : : static bool
5351 : 1294554 : check_string_literal (tree string, unsigned HOST_WIDE_INT size)
5352 : : {
5353 : 1294554 : tree type = TREE_TYPE (string);
5354 : 1294554 : tree eltype = TREE_TYPE (type);
5355 : 1294554 : unsigned HOST_WIDE_INT elts = tree_to_uhwi (TYPE_SIZE_UNIT (eltype));
5356 : 1294554 : unsigned HOST_WIDE_INT mem_size = tree_to_uhwi (TYPE_SIZE_UNIT (type));
5357 : 1294554 : int len = TREE_STRING_LENGTH (string);
5358 : :
5359 : 1294554 : if (elts != 1 && elts != 2 && elts != 4)
5360 : : return false;
5361 : 1294554 : if (len < 0 || len % elts != 0)
5362 : : return false;
5363 : 1294554 : if (size < (unsigned)len)
5364 : : return false;
5365 : 1294554 : if (mem_size != size)
5366 : 0 : return false;
5367 : : return true;
5368 : : }
5369 : :
5370 : : /* output_constructor outer state of relevance in recursive calls, typically
5371 : : for nested aggregate bitfields. */
5372 : :
5373 : : struct oc_outer_state {
5374 : : unsigned int bit_offset; /* current position in ... */
5375 : : int byte; /* ... the outer byte buffer. */
5376 : : };
5377 : :
5378 : : static unsigned HOST_WIDE_INT
5379 : : output_constructor (tree, unsigned HOST_WIDE_INT, unsigned int, bool,
5380 : : oc_outer_state *);
5381 : :
5382 : : /* Output assembler code for constant EXP, with no label.
5383 : : This includes the pseudo-op such as ".int" or ".byte", and a newline.
5384 : : Assumes output_addressed_constants has been done on EXP already.
5385 : :
5386 : : Generate at least SIZE bytes of assembler data, padding at the end
5387 : : with zeros if necessary. SIZE must always be specified. The returned
5388 : : value is the actual number of bytes of assembler data generated, which
5389 : : may be bigger than SIZE if the object contains a variable length field.
5390 : :
5391 : : SIZE is important for structure constructors,
5392 : : since trailing members may have been omitted from the constructor.
5393 : : It is also important for initialization of arrays from string constants
5394 : : since the full length of the string constant might not be wanted.
5395 : : It is also needed for initialization of unions, where the initializer's
5396 : : type is just one member, and that may not be as long as the union.
5397 : :
5398 : : There a case in which we would fail to output exactly SIZE bytes:
5399 : : for a structure constructor that wants to produce more than SIZE bytes.
5400 : : But such constructors will never be generated for any possible input.
5401 : :
5402 : : ALIGN is the alignment of the data in bits.
5403 : :
5404 : : If REVERSE is true, EXP is output in reverse storage order. */
5405 : :
5406 : : static unsigned HOST_WIDE_INT
5407 : 17529087 : output_constant (tree exp, unsigned HOST_WIDE_INT size, unsigned int align,
5408 : : bool reverse, bool merge_strings)
5409 : : {
5410 : 17529087 : enum tree_code code;
5411 : 17529087 : unsigned HOST_WIDE_INT thissize;
5412 : 17529087 : rtx cst;
5413 : :
5414 : 17529087 : if (size == 0 || flag_syntax_only)
5415 : : return size;
5416 : :
5417 : : /* See if we're trying to initialize a pointer in a non-default mode
5418 : : to the address of some declaration somewhere. If the target says
5419 : : the mode is valid for pointers, assume the target has a way of
5420 : : resolving it. */
5421 : 17528850 : if (TREE_CODE (exp) == NOP_EXPR
5422 : 175 : && POINTER_TYPE_P (TREE_TYPE (exp))
5423 : 17528993 : && targetm.addr_space.valid_pointer_mode
5424 : 143 : (SCALAR_INT_TYPE_MODE (TREE_TYPE (exp)),
5425 : 143 : TYPE_ADDR_SPACE (TREE_TYPE (TREE_TYPE (exp)))))
5426 : : {
5427 : 143 : tree saved_type = TREE_TYPE (exp);
5428 : :
5429 : : /* Peel off any intermediate conversions-to-pointer for valid
5430 : : pointer modes. */
5431 : 143 : while (TREE_CODE (exp) == NOP_EXPR
5432 : 143 : && POINTER_TYPE_P (TREE_TYPE (exp))
5433 : 429 : && targetm.addr_space.valid_pointer_mode
5434 : 143 : (SCALAR_INT_TYPE_MODE (TREE_TYPE (exp)),
5435 : 143 : TYPE_ADDR_SPACE (TREE_TYPE (TREE_TYPE (exp)))))
5436 : 143 : exp = TREE_OPERAND (exp, 0);
5437 : :
5438 : : /* If what we're left with is the address of something, we can
5439 : : convert the address to the final type and output it that
5440 : : way. */
5441 : 143 : if (TREE_CODE (exp) == ADDR_EXPR)
5442 : 8 : exp = build1 (ADDR_EXPR, saved_type, TREE_OPERAND (exp, 0));
5443 : : /* Likewise for constant ints. */
5444 : 135 : else if (TREE_CODE (exp) == INTEGER_CST)
5445 : 135 : exp = fold_convert (saved_type, exp);
5446 : :
5447 : : }
5448 : :
5449 : : /* Eliminate any conversions since we'll be outputting the underlying
5450 : : constant. */
5451 : 17532119 : while (CONVERT_EXPR_P (exp)
5452 : 17532080 : || TREE_CODE (exp) == NON_LVALUE_EXPR
5453 : 35064231 : || TREE_CODE (exp) == VIEW_CONVERT_EXPR)
5454 : : {
5455 : 3307 : HOST_WIDE_INT type_size = int_size_in_bytes (TREE_TYPE (exp));
5456 : 3307 : HOST_WIDE_INT op_size = int_size_in_bytes (TREE_TYPE (TREE_OPERAND (exp, 0)));
5457 : :
5458 : : /* Make sure eliminating the conversion is really a no-op, except with
5459 : : VIEW_CONVERT_EXPRs to allow for wild Ada unchecked conversions and
5460 : : union types to allow for Ada unchecked unions. */
5461 : 3307 : if (type_size > op_size
5462 : 6 : && TREE_CODE (exp) != VIEW_CONVERT_EXPR
5463 : 3313 : && TREE_CODE (TREE_TYPE (exp)) != UNION_TYPE)
5464 : : /* Keep the conversion. */
5465 : : break;
5466 : : else
5467 : 3301 : exp = TREE_OPERAND (exp, 0);
5468 : : }
5469 : :
5470 : 17528850 : code = TREE_CODE (TREE_TYPE (exp));
5471 : 17528850 : thissize = int_size_in_bytes (TREE_TYPE (exp));
5472 : :
5473 : : /* Allow a constructor with no elements for any data type.
5474 : : This means to fill the space with zeros. */
5475 : 17528850 : if (TREE_CODE (exp) == CONSTRUCTOR
5476 : 17528850 : && vec_safe_is_empty (CONSTRUCTOR_ELTS (exp)))
5477 : : {
5478 : 3004 : assemble_zeros (size);
5479 : 3004 : return size;
5480 : : }
5481 : :
5482 : 17525846 : if (TREE_CODE (exp) == FDESC_EXPR)
5483 : : {
5484 : : #ifdef ASM_OUTPUT_FDESC
5485 : : HOST_WIDE_INT part = tree_to_shwi (TREE_OPERAND (exp, 1));
5486 : : tree decl = TREE_OPERAND (exp, 0);
5487 : : ASM_OUTPUT_FDESC (asm_out_file, decl, part);
5488 : : #else
5489 : 0 : gcc_unreachable ();
5490 : : #endif
5491 : : return size;
5492 : : }
5493 : :
5494 : : /* Now output the underlying data. If we've handling the padding, return.
5495 : : Otherwise, break and ensure SIZE is the size written. */
5496 : 17525846 : switch (code)
5497 : : {
5498 : 11894098 : case BOOLEAN_TYPE:
5499 : 11894098 : case INTEGER_TYPE:
5500 : 11894098 : case ENUMERAL_TYPE:
5501 : 11894098 : case POINTER_TYPE:
5502 : 11894098 : case REFERENCE_TYPE:
5503 : 11894098 : case OFFSET_TYPE:
5504 : 11894098 : case FIXED_POINT_TYPE:
5505 : 11894098 : case NULLPTR_TYPE:
5506 : 11894098 : cst = expand_expr (exp, NULL_RTX, VOIDmode, EXPAND_INITIALIZER);
5507 : 11894098 : if (reverse)
5508 : 558 : cst = flip_storage_order (TYPE_MODE (TREE_TYPE (exp)), cst);
5509 : 11894098 : if (!assemble_integer (cst, MIN (size, thissize), align, 0))
5510 : 0 : error ("initializer for integer/fixed-point value is too complicated");
5511 : : break;
5512 : :
5513 : 578333 : case REAL_TYPE:
5514 : 578333 : gcc_assert (size == thissize);
5515 : 578333 : if (TREE_CODE (exp) != REAL_CST)
5516 : 1 : error ("initializer for floating value is not a floating constant");
5517 : : else
5518 : 578332 : assemble_real (TREE_REAL_CST (exp),
5519 : 578332 : SCALAR_FLOAT_TYPE_MODE (TREE_TYPE (exp)),
5520 : : align, reverse);
5521 : : break;
5522 : :
5523 : 12183 : case COMPLEX_TYPE:
5524 : 12183 : output_constant (TREE_REALPART (exp), thissize / 2, align,
5525 : : reverse, false);
5526 : 12183 : output_constant (TREE_IMAGPART (exp), thissize / 2,
5527 : : min_align (align, BITS_PER_UNIT * (thissize / 2)),
5528 : : reverse, false);
5529 : 12183 : break;
5530 : :
5531 : 7876 : case BITINT_TYPE:
5532 : 7876 : if (TREE_CODE (exp) != INTEGER_CST)
5533 : 0 : error ("initializer for %<_BitInt(%d)%> value is not an integer "
5534 : 0 : "constant", TYPE_PRECISION (TREE_TYPE (exp)));
5535 : : else
5536 : : {
5537 : 7876 : struct bitint_info info;
5538 : 7876 : tree type = TREE_TYPE (exp);
5539 : 7876 : bool ok = targetm.c.bitint_type_info (TYPE_PRECISION (type), &info);
5540 : 7876 : gcc_assert (ok);
5541 : 7876 : scalar_int_mode limb_mode
5542 : 7876 : = as_a <scalar_int_mode> (info.abi_limb_mode);
5543 : 7876 : if (TYPE_PRECISION (type) <= GET_MODE_PRECISION (limb_mode))
5544 : : {
5545 : 425 : cst = expand_expr (exp, NULL_RTX, VOIDmode, EXPAND_INITIALIZER);
5546 : 425 : if (reverse)
5547 : 0 : cst = flip_storage_order (TYPE_MODE (TREE_TYPE (exp)), cst);
5548 : 425 : if (!assemble_integer (cst, MIN (size, thissize), align, 0))
5549 : 0 : error ("initializer for integer/fixed-point value is too "
5550 : : "complicated");
5551 : 425 : break;
5552 : : }
5553 : 7451 : int prec = GET_MODE_PRECISION (limb_mode);
5554 : 7451 : int cnt = CEIL (TYPE_PRECISION (type), prec);
5555 : 7451 : tree limb_type = build_nonstandard_integer_type (prec, 1);
5556 : 7451 : int elt_size = GET_MODE_SIZE (limb_mode);
5557 : 7451 : unsigned int nalign = MIN (align, GET_MODE_ALIGNMENT (limb_mode));
5558 : 7451 : thissize = 0;
5559 : 7451 : if (prec == HOST_BITS_PER_WIDE_INT)
5560 : 82454 : for (int i = 0; i < cnt; i++)
5561 : : {
5562 : 75003 : int idx = (info.big_endian ^ reverse) ? cnt - 1 - i : i;
5563 : 75003 : tree c;
5564 : 75003 : if (idx >= TREE_INT_CST_EXT_NUNITS (exp))
5565 : 16257 : c = build_int_cst (limb_type,
5566 : 30393 : tree_int_cst_sgn (exp) < 0 ? -1 : 0);
5567 : : else
5568 : 58746 : c = build_int_cst (limb_type,
5569 : 58746 : TREE_INT_CST_ELT (exp, idx));
5570 : 75003 : output_constant (c, elt_size, nalign, reverse, false);
5571 : 75003 : thissize += elt_size;
5572 : : }
5573 : : else
5574 : 0 : for (int i = 0; i < cnt; i++)
5575 : : {
5576 : 0 : int idx = (info.big_endian ^ reverse) ? cnt - 1 - i : i;
5577 : 0 : wide_int w = wi::rshift (wi::to_wide (exp), idx * prec,
5578 : 0 : TYPE_SIGN (TREE_TYPE (exp)));
5579 : 0 : tree c = wide_int_to_tree (limb_type,
5580 : 0 : wide_int::from (w, prec, UNSIGNED));
5581 : 0 : output_constant (c, elt_size, nalign, reverse, false);
5582 : 0 : thissize += elt_size;
5583 : 0 : }
5584 : : }
5585 : : break;
5586 : :
5587 : 1862297 : case ARRAY_TYPE:
5588 : 1862297 : case VECTOR_TYPE:
5589 : 1862297 : switch (TREE_CODE (exp))
5590 : : {
5591 : 555688 : case CONSTRUCTOR:
5592 : 555688 : return output_constructor (exp, size, align, reverse, NULL);
5593 : 1294554 : case STRING_CST:
5594 : 1294554 : thissize = (unsigned HOST_WIDE_INT)TREE_STRING_LENGTH (exp);
5595 : 1294554 : if (merge_strings
5596 : 1294554 : && (thissize == 0
5597 : 389207 : || TREE_STRING_POINTER (exp) [thissize - 1] != '\0'))
5598 : 33472 : thissize++;
5599 : 1294554 : gcc_checking_assert (check_string_literal (exp, size));
5600 : 1294554 : assemble_string (TREE_STRING_POINTER (exp), thissize);
5601 : 1294554 : break;
5602 : 12055 : case VECTOR_CST:
5603 : 12055 : {
5604 : 12055 : scalar_mode inner = SCALAR_TYPE_MODE (TREE_TYPE (TREE_TYPE (exp)));
5605 : 12055 : unsigned int nalign = MIN (align, GET_MODE_ALIGNMENT (inner));
5606 : 12055 : int elt_size = GET_MODE_SIZE (inner);
5607 : 12055 : output_constant (VECTOR_CST_ELT (exp, 0), elt_size, align,
5608 : : reverse, false);
5609 : 12055 : thissize = elt_size;
5610 : : /* Static constants must have a fixed size. */
5611 : 12055 : unsigned int nunits = VECTOR_CST_NELTS (exp).to_constant ();
5612 : 67932 : for (unsigned int i = 1; i < nunits; i++)
5613 : : {
5614 : 55877 : output_constant (VECTOR_CST_ELT (exp, i), elt_size, nalign,
5615 : : reverse, false);
5616 : 55877 : thissize += elt_size;
5617 : : }
5618 : : break;
5619 : : }
5620 : 0 : default:
5621 : 0 : gcc_unreachable ();
5622 : : }
5623 : : break;
5624 : :
5625 : 3171059 : case RECORD_TYPE:
5626 : 3171059 : case UNION_TYPE:
5627 : 3171059 : gcc_assert (TREE_CODE (exp) == CONSTRUCTOR);
5628 : 3171059 : return output_constructor (exp, size, align, reverse, NULL);
5629 : :
5630 : : case ERROR_MARK:
5631 : : return 0;
5632 : :
5633 : 0 : default:
5634 : 0 : gcc_unreachable ();
5635 : : }
5636 : :
5637 : 13799099 : if (size > thissize)
5638 : 708444 : assemble_zeros (size - thissize);
5639 : :
5640 : : return size;
5641 : : }
5642 : :
5643 : : /* Subroutine of output_constructor, used for computing the size of
5644 : : arrays of unspecified length. VAL must be a CONSTRUCTOR of an array
5645 : : type with an unspecified upper bound. */
5646 : :
5647 : : static unsigned HOST_WIDE_INT
5648 : 5096 : array_size_for_constructor (tree val)
5649 : : {
5650 : 5096 : tree max_index;
5651 : 5096 : unsigned HOST_WIDE_INT cnt;
5652 : 5096 : tree index, value, tmp;
5653 : 5096 : offset_int i;
5654 : :
5655 : : /* This code used to attempt to handle string constants that are not
5656 : : arrays of single-bytes, but nothing else does, so there's no point in
5657 : : doing it here. */
5658 : 5096 : if (TREE_CODE (val) == STRING_CST)
5659 : 4939 : return TREE_STRING_LENGTH (val);
5660 : :
5661 : : max_index = NULL_TREE;
5662 : 446 : FOR_EACH_CONSTRUCTOR_ELT (CONSTRUCTOR_ELTS (val), cnt, index, value)
5663 : : {
5664 : 289 : if (TREE_CODE (index) == RANGE_EXPR)
5665 : 0 : index = TREE_OPERAND (index, 1);
5666 : 289 : if (value && TREE_CODE (value) == RAW_DATA_CST)
5667 : 2 : index = size_binop (PLUS_EXPR, index,
5668 : : bitsize_int (RAW_DATA_LENGTH (value) - 1));
5669 : 289 : if (max_index == NULL_TREE || tree_int_cst_lt (max_index, index))
5670 : : max_index = index;
5671 : : }
5672 : :
5673 : 157 : if (max_index == NULL_TREE)
5674 : : return 0;
5675 : :
5676 : : /* Compute the total number of array elements. */
5677 : 123 : tmp = TYPE_MIN_VALUE (TYPE_DOMAIN (TREE_TYPE (val)));
5678 : 123 : i = wi::to_offset (max_index) - wi::to_offset (tmp) + 1;
5679 : :
5680 : : /* Multiply by the array element unit size to find number of bytes. */
5681 : 123 : i *= wi::to_offset (TYPE_SIZE_UNIT (TREE_TYPE (TREE_TYPE (val))));
5682 : :
5683 : 123 : gcc_assert (wi::fits_uhwi_p (i));
5684 : 123 : return i.to_uhwi ();
5685 : : }
5686 : :
5687 : : /* Other datastructures + helpers for output_constructor. */
5688 : :
5689 : : /* output_constructor local state to support interaction with helpers. */
5690 : :
5691 : : struct oc_local_state {
5692 : :
5693 : : /* Received arguments. */
5694 : : tree exp; /* Constructor expression. */
5695 : : tree type; /* Type of constructor expression. */
5696 : : unsigned HOST_WIDE_INT size; /* # bytes to output - pad if necessary. */
5697 : : unsigned int align; /* Known initial alignment. */
5698 : : tree min_index; /* Lower bound if specified for an array. */
5699 : :
5700 : : /* Output processing state. */
5701 : : HOST_WIDE_INT total_bytes; /* # bytes output so far / current position. */
5702 : : int byte; /* Part of a bitfield byte yet to be output. */
5703 : : int last_relative_index; /* Implicit or explicit index of the last
5704 : : array element output within a bitfield. */
5705 : : bool byte_buffer_in_use; /* Whether BYTE is in use. */
5706 : : bool reverse; /* Whether reverse storage order is in use. */
5707 : :
5708 : : /* Current element. */
5709 : : tree field; /* Current field decl in a record. */
5710 : : tree val; /* Current element value. */
5711 : : tree index; /* Current element index. */
5712 : :
5713 : : };
5714 : :
5715 : : /* Helper for output_constructor. From the current LOCAL state, output a
5716 : : RANGE_EXPR element. */
5717 : :
5718 : : static void
5719 : 783 : output_constructor_array_range (oc_local_state *local)
5720 : : {
5721 : : /* Perform the index calculation in modulo arithmetic but
5722 : : sign-extend the result because Ada has negative DECL_FIELD_OFFSETs
5723 : : but we are using an unsigned sizetype. */
5724 : 783 : unsigned prec = TYPE_PRECISION (sizetype);
5725 : 783 : offset_int idx = wi::sext (wi::to_offset (TREE_OPERAND (local->index, 0))
5726 : 1566 : - wi::to_offset (local->min_index), prec);
5727 : 783 : tree valtype = TREE_TYPE (local->val);
5728 : 783 : HOST_WIDE_INT fieldpos
5729 : 783 : = (idx * wi::to_offset (TYPE_SIZE_UNIT (valtype))).to_short_addr ();
5730 : :
5731 : : /* Advance to offset of this element. */
5732 : 783 : if (fieldpos > local->total_bytes)
5733 : : {
5734 : 8 : assemble_zeros (fieldpos - local->total_bytes);
5735 : 8 : local->total_bytes = fieldpos;
5736 : : }
5737 : : else
5738 : : /* Must not go backwards. */
5739 : 775 : gcc_assert (fieldpos == local->total_bytes);
5740 : :
5741 : 783 : unsigned HOST_WIDE_INT fieldsize
5742 : 783 : = int_size_in_bytes (TREE_TYPE (local->type));
5743 : :
5744 : 783 : HOST_WIDE_INT lo_index
5745 : 783 : = tree_to_shwi (TREE_OPERAND (local->index, 0));
5746 : 783 : HOST_WIDE_INT hi_index
5747 : 783 : = tree_to_shwi (TREE_OPERAND (local->index, 1));
5748 : 783 : HOST_WIDE_INT index;
5749 : :
5750 : 783 : unsigned int align2
5751 : 783 : = min_align (local->align, fieldsize * BITS_PER_UNIT);
5752 : :
5753 : 274729 : for (index = lo_index; index <= hi_index; index++)
5754 : : {
5755 : : /* Output the element's initial value. */
5756 : 273946 : if (local->val == NULL_TREE)
5757 : 0 : assemble_zeros (fieldsize);
5758 : : else
5759 : 273946 : fieldsize = output_constant (local->val, fieldsize, align2,
5760 : 273946 : local->reverse, false);
5761 : :
5762 : : /* Count its size. */
5763 : 273946 : local->total_bytes += fieldsize;
5764 : : }
5765 : 783 : }
5766 : :
5767 : : /* Helper for output_constructor. From the current LOCAL state, output a
5768 : : field element that is not true bitfield or part of an outer one. */
5769 : :
5770 : : static void
5771 : 14057905 : output_constructor_regular_field (oc_local_state *local)
5772 : : {
5773 : : /* Field size and position. Since this structure is static, we know the
5774 : : positions are constant. */
5775 : 14057905 : unsigned HOST_WIDE_INT fieldsize;
5776 : 14057905 : HOST_WIDE_INT fieldpos;
5777 : :
5778 : 14057905 : unsigned int align2;
5779 : :
5780 : : /* Output any buffered-up bit-fields preceding this element. */
5781 : 14057905 : if (local->byte_buffer_in_use)
5782 : : {
5783 : 134 : assemble_integer (GEN_INT (local->byte), 1, BITS_PER_UNIT, 1);
5784 : 134 : local->total_bytes++;
5785 : 134 : local->byte_buffer_in_use = false;
5786 : : }
5787 : :
5788 : 14057905 : if (local->index != NULL_TREE)
5789 : : {
5790 : : /* Perform the index calculation in modulo arithmetic but
5791 : : sign-extend the result because Ada has negative DECL_FIELD_OFFSETs
5792 : : but we are using an unsigned sizetype. */
5793 : 3848952 : unsigned prec = TYPE_PRECISION (sizetype);
5794 : 3848952 : offset_int idx = wi::sext (wi::to_offset (local->index)
5795 : 7697904 : - wi::to_offset (local->min_index), prec);
5796 : 3848952 : fieldpos = (idx * wi::to_offset (TYPE_SIZE_UNIT (TREE_TYPE (local->val))))
5797 : 3848952 : .to_short_addr ();
5798 : : }
5799 : 10208953 : else if (local->field != NULL_TREE)
5800 : 9444378 : fieldpos = int_byte_position (local->field);
5801 : : else
5802 : : fieldpos = 0;
5803 : :
5804 : : /* Advance to offset of this element.
5805 : : Note no alignment needed in an array, since that is guaranteed
5806 : : if each element has the proper size. */
5807 : 14057905 : if (local->field != NULL_TREE || local->index != NULL_TREE)
5808 : : {
5809 : 13293330 : if (fieldpos > local->total_bytes)
5810 : : {
5811 : 176141 : assemble_zeros (fieldpos - local->total_bytes);
5812 : 176141 : local->total_bytes = fieldpos;
5813 : : }
5814 : : else
5815 : : /* Must not go backwards. */
5816 : 13117189 : gcc_assert (fieldpos == local->total_bytes);
5817 : : }
5818 : :
5819 : : /* Find the alignment of this element. */
5820 : 14057905 : align2 = min_align (local->align, BITS_PER_UNIT * fieldpos);
5821 : :
5822 : : /* Determine size this element should occupy. */
5823 : 14057905 : if (local->field)
5824 : : {
5825 : 9444378 : fieldsize = 0;
5826 : :
5827 : : /* If this is an array with an unspecified upper bound,
5828 : : the initializer determines the size. */
5829 : : /* ??? This ought to only checked if DECL_SIZE_UNIT is NULL,
5830 : : but we cannot do this until the deprecated support for
5831 : : initializing zero-length array members is removed. */
5832 : 9444378 : if (TREE_CODE (TREE_TYPE (local->field)) == ARRAY_TYPE
5833 : 9444378 : && (!TYPE_DOMAIN (TREE_TYPE (local->field))
5834 : 179332 : || !TYPE_MAX_VALUE (TYPE_DOMAIN (TREE_TYPE (local->field)))))
5835 : : {
5836 : 5096 : unsigned HOST_WIDE_INT fldsize
5837 : 5096 : = array_size_for_constructor (local->val);
5838 : 5096 : fieldsize = int_size_in_bytes (TREE_TYPE (local->val));
5839 : : /* In most cases fieldsize == fldsize as the size of the initializer
5840 : : determines how many elements the flexible array member has. For
5841 : : C++ fldsize can be smaller though, if the last or several last or
5842 : : all initializers of the flexible array member have side-effects
5843 : : and the FE splits them into dynamic initialization. */
5844 : 5096 : gcc_checking_assert (fieldsize >= fldsize);
5845 : : /* Given a non-empty initialization, this field had better
5846 : : be last. Given a flexible array member, the next field
5847 : : on the chain is a TYPE_DECL of the enclosing struct. */
5848 : 5096 : const_tree next = DECL_CHAIN (local->field);
5849 : 5096 : gcc_assert (!fieldsize || !next || TREE_CODE (next) != FIELD_DECL);
5850 : : }
5851 : : else
5852 : 9439282 : fieldsize = tree_to_uhwi (DECL_SIZE_UNIT (local->field));
5853 : : }
5854 : : else
5855 : 4613527 : fieldsize = int_size_in_bytes (TREE_TYPE (local->type));
5856 : :
5857 : : /* Output the element's initial value. */
5858 : 14057905 : if (local->val == NULL_TREE)
5859 : 0 : assemble_zeros (fieldsize);
5860 : 14057905 : else if (local->val && TREE_CODE (local->val) == RAW_DATA_CST)
5861 : : {
5862 : 354 : fieldsize *= RAW_DATA_LENGTH (local->val);
5863 : 354 : assemble_string (RAW_DATA_POINTER (local->val),
5864 : 354 : RAW_DATA_LENGTH (local->val));
5865 : : }
5866 : : else
5867 : 14057551 : fieldsize = output_constant (local->val, fieldsize, align2,
5868 : 14057551 : local->reverse, false);
5869 : :
5870 : : /* Count its size. */
5871 : 14057905 : local->total_bytes += fieldsize;
5872 : 14057905 : }
5873 : :
5874 : : /* Helper for output_constructor. From the LOCAL state, output an element
5875 : : that is a true bitfield or part of an outer one. BIT_OFFSET is the offset
5876 : : from the start of a possibly ongoing outer byte buffer. */
5877 : :
5878 : : static void
5879 : 5832 : output_constructor_bitfield (oc_local_state *local, unsigned int bit_offset)
5880 : : {
5881 : : /* Bit size of this element. */
5882 : 5832 : HOST_WIDE_INT ebitsize
5883 : 5832 : = (local->field
5884 : 5832 : ? tree_to_uhwi (DECL_SIZE (local->field))
5885 : 0 : : tree_to_uhwi (TYPE_SIZE (TREE_TYPE (local->type))));
5886 : :
5887 : : /* Relative index of this element if this is an array component. */
5888 : 11664 : HOST_WIDE_INT relative_index
5889 : : = (local->field
5890 : 5832 : ? 0
5891 : 0 : : (local->index
5892 : 0 : ? tree_to_uhwi (local->index) - tree_to_uhwi (local->min_index)
5893 : 0 : : local->last_relative_index + 1));
5894 : :
5895 : : /* Bit position of this element from the start of the containing
5896 : : constructor. */
5897 : 5832 : HOST_WIDE_INT constructor_relative_ebitpos
5898 : : = (local->field
5899 : 5832 : ? int_bit_position (local->field)
5900 : 5832 : : ebitsize * relative_index);
5901 : :
5902 : : /* Bit position of this element from the start of a possibly ongoing
5903 : : outer byte buffer. */
5904 : 5832 : HOST_WIDE_INT byte_relative_ebitpos
5905 : 5832 : = bit_offset + constructor_relative_ebitpos;
5906 : :
5907 : : /* From the start of a possibly ongoing outer byte buffer, offsets to
5908 : : the first bit of this element and to the first bit past the end of
5909 : : this element. */
5910 : 5832 : HOST_WIDE_INT next_offset = byte_relative_ebitpos;
5911 : 5832 : HOST_WIDE_INT end_offset = byte_relative_ebitpos + ebitsize;
5912 : :
5913 : 5832 : local->last_relative_index = relative_index;
5914 : :
5915 : 5832 : if (local->val == NULL_TREE)
5916 : 0 : local->val = integer_zero_node;
5917 : :
5918 : 5832 : while (TREE_CODE (local->val) == VIEW_CONVERT_EXPR
5919 : 5832 : || TREE_CODE (local->val) == NON_LVALUE_EXPR)
5920 : 0 : local->val = TREE_OPERAND (local->val, 0);
5921 : :
5922 : 5832 : if (TREE_CODE (local->val) != INTEGER_CST
5923 : 0 : && TREE_CODE (local->val) != CONSTRUCTOR)
5924 : : {
5925 : 0 : error ("invalid initial value for member %qE", DECL_NAME (local->field));
5926 : 0 : return;
5927 : : }
5928 : :
5929 : : /* If this field does not start in this (or next) byte, skip some bytes. */
5930 : 5832 : if (next_offset / BITS_PER_UNIT != local->total_bytes)
5931 : : {
5932 : : /* Output remnant of any bit field in previous bytes. */
5933 : 1246 : if (local->byte_buffer_in_use)
5934 : : {
5935 : 1223 : assemble_integer (GEN_INT (local->byte), 1, BITS_PER_UNIT, 1);
5936 : 1223 : local->total_bytes++;
5937 : 1223 : local->byte_buffer_in_use = false;
5938 : : }
5939 : :
5940 : : /* If still not at proper byte, advance to there. */
5941 : 1246 : if (next_offset / BITS_PER_UNIT != local->total_bytes)
5942 : : {
5943 : 102 : gcc_assert (next_offset / BITS_PER_UNIT >= local->total_bytes);
5944 : 102 : assemble_zeros (next_offset / BITS_PER_UNIT - local->total_bytes);
5945 : 102 : local->total_bytes = next_offset / BITS_PER_UNIT;
5946 : : }
5947 : : }
5948 : :
5949 : : /* Set up the buffer if necessary. */
5950 : 5832 : if (!local->byte_buffer_in_use)
5951 : : {
5952 : 3323 : local->byte = 0;
5953 : 3323 : if (ebitsize > 0)
5954 : 3323 : local->byte_buffer_in_use = true;
5955 : : }
5956 : :
5957 : : /* If this is nested constructor, recurse passing the bit offset and the
5958 : : pending data, then retrieve the new pending data afterwards. */
5959 : 5832 : if (TREE_CODE (local->val) == CONSTRUCTOR)
5960 : : {
5961 : 0 : oc_outer_state temp_state;
5962 : 0 : temp_state.bit_offset = next_offset % BITS_PER_UNIT;
5963 : 0 : temp_state.byte = local->byte;
5964 : 0 : local->total_bytes
5965 : 0 : += output_constructor (local->val, 0, 0, local->reverse, &temp_state);
5966 : 0 : local->byte = temp_state.byte;
5967 : 0 : return;
5968 : : }
5969 : :
5970 : : /* Otherwise, we must split the element into pieces that fall within
5971 : : separate bytes, and combine each byte with previous or following
5972 : : bit-fields. */
5973 : 22348 : while (next_offset < end_offset)
5974 : : {
5975 : 16516 : int this_time;
5976 : 16516 : int shift;
5977 : 16516 : unsigned HOST_WIDE_INT value;
5978 : 16516 : HOST_WIDE_INT next_byte = next_offset / BITS_PER_UNIT;
5979 : 16516 : HOST_WIDE_INT next_bit = next_offset % BITS_PER_UNIT;
5980 : :
5981 : : /* Advance from byte to byte within this element when necessary. */
5982 : 26984 : while (next_byte != local->total_bytes)
5983 : : {
5984 : 10468 : assemble_integer (GEN_INT (local->byte), 1, BITS_PER_UNIT, 1);
5985 : 10468 : local->total_bytes++;
5986 : 10468 : local->byte = 0;
5987 : : }
5988 : :
5989 : : /* Number of bits we can process at once (all part of the same byte). */
5990 : 16516 : this_time = MIN (end_offset - next_offset, BITS_PER_UNIT - next_bit);
5991 : 16516 : if (local->reverse ? !BYTES_BIG_ENDIAN : BYTES_BIG_ENDIAN)
5992 : : {
5993 : : /* For big-endian data, take the most significant bits (of the
5994 : : bits that are significant) first and put them into bytes from
5995 : : the most significant end. */
5996 : 778 : shift = end_offset - next_offset - this_time;
5997 : :
5998 : : /* Don't try to take a bunch of bits that cross
5999 : : the word boundary in the INTEGER_CST. We can
6000 : : only select bits from one element. */
6001 : 778 : if ((shift / HOST_BITS_PER_WIDE_INT)
6002 : 778 : != ((shift + this_time - 1) / HOST_BITS_PER_WIDE_INT))
6003 : : {
6004 : 0 : const int end = shift + this_time - 1;
6005 : 0 : shift = end & -HOST_BITS_PER_WIDE_INT;
6006 : 0 : this_time = end - shift + 1;
6007 : : }
6008 : :
6009 : : /* Now get the bits we want to insert. */
6010 : 778 : value = wi::extract_uhwi (wi::to_widest (local->val),
6011 : : shift, this_time);
6012 : :
6013 : : /* Get the result. This works only when:
6014 : : 1 <= this_time <= HOST_BITS_PER_WIDE_INT. */
6015 : 778 : local->byte |= value << (BITS_PER_UNIT - this_time - next_bit);
6016 : : }
6017 : : else
6018 : : {
6019 : : /* On little-endian machines, take the least significant bits of
6020 : : the value first and pack them starting at the least significant
6021 : : bits of the bytes. */
6022 : 15738 : shift = next_offset - byte_relative_ebitpos;
6023 : :
6024 : : /* Don't try to take a bunch of bits that cross
6025 : : the word boundary in the INTEGER_CST. We can
6026 : : only select bits from one element. */
6027 : 15738 : if ((shift / HOST_BITS_PER_WIDE_INT)
6028 : 15738 : != ((shift + this_time - 1) / HOST_BITS_PER_WIDE_INT))
6029 : 216 : this_time
6030 : 216 : = HOST_BITS_PER_WIDE_INT - (shift & (HOST_BITS_PER_WIDE_INT - 1));
6031 : :
6032 : : /* Now get the bits we want to insert. */
6033 : 15738 : value = wi::extract_uhwi (wi::to_widest (local->val),
6034 : : shift, this_time);
6035 : :
6036 : : /* Get the result. This works only when:
6037 : : 1 <= this_time <= HOST_BITS_PER_WIDE_INT. */
6038 : 15738 : local->byte |= value << next_bit;
6039 : : }
6040 : :
6041 : 16516 : next_offset += this_time;
6042 : 16516 : local->byte_buffer_in_use = true;
6043 : : }
6044 : : }
6045 : :
6046 : : /* Subroutine of output_constant, used for CONSTRUCTORs (aggregate constants).
6047 : : Generate at least SIZE bytes, padding if necessary. OUTER designates the
6048 : : caller output state of relevance in recursive invocations. */
6049 : :
6050 : : static unsigned HOST_WIDE_INT
6051 : 3726747 : output_constructor (tree exp, unsigned HOST_WIDE_INT size, unsigned int align,
6052 : : bool reverse, oc_outer_state *outer)
6053 : : {
6054 : 3726747 : unsigned HOST_WIDE_INT cnt;
6055 : 3726747 : constructor_elt *ce;
6056 : 3726747 : oc_local_state local;
6057 : :
6058 : : /* Setup our local state to communicate with helpers. */
6059 : 3726747 : local.exp = exp;
6060 : 3726747 : local.type = TREE_TYPE (exp);
6061 : 3726747 : local.size = size;
6062 : 3726747 : local.align = align;
6063 : 3726747 : if (TREE_CODE (local.type) == ARRAY_TYPE && TYPE_DOMAIN (local.type))
6064 : 555688 : local.min_index = TYPE_MIN_VALUE (TYPE_DOMAIN (local.type));
6065 : : else
6066 : 3171059 : local.min_index = integer_zero_node;
6067 : :
6068 : 3726747 : local.total_bytes = 0;
6069 : 3726747 : local.byte_buffer_in_use = outer != NULL;
6070 : 3726747 : local.byte = outer ? outer->byte : 0;
6071 : 3726747 : local.last_relative_index = -1;
6072 : : /* The storage order is specified for every aggregate type. */
6073 : 3726747 : if (AGGREGATE_TYPE_P (local.type))
6074 : 3726747 : local.reverse = TYPE_REVERSE_STORAGE_ORDER (local.type);
6075 : : else
6076 : 0 : local.reverse = reverse;
6077 : :
6078 : 3726747 : gcc_assert (HOST_BITS_PER_WIDE_INT >= BITS_PER_UNIT);
6079 : :
6080 : : /* As CE goes through the elements of the constant, FIELD goes through the
6081 : : structure fields if the constant is a structure. If the constant is a
6082 : : union, we override this by getting the field from the TREE_LIST element.
6083 : : But the constant could also be an array. Then FIELD is zero.
6084 : :
6085 : : There is always a maximum of one element in the chain LINK for unions
6086 : : (even if the initializer in a source program incorrectly contains
6087 : : more one). */
6088 : :
6089 : 3726747 : if (TREE_CODE (local.type) == RECORD_TYPE)
6090 : 3153998 : local.field = TYPE_FIELDS (local.type);
6091 : : else
6092 : 572749 : local.field = NULL_TREE;
6093 : :
6094 : : for (cnt = 0;
6095 : 17791267 : vec_safe_iterate (CONSTRUCTOR_ELTS (exp), cnt, &ce);
6096 : 14064520 : cnt++, local.field = local.field ? DECL_CHAIN (local.field) : 0)
6097 : : {
6098 : 14064520 : local.val = ce->value;
6099 : 14064520 : local.index = NULL_TREE;
6100 : :
6101 : : /* The element in a union constructor specifies the proper field
6102 : : or index. */
6103 : 14064520 : if (RECORD_OR_UNION_TYPE_P (local.type) && ce->index != NULL_TREE)
6104 : 9261890 : local.field = ce->index;
6105 : :
6106 : 4802630 : else if (TREE_CODE (local.type) == ARRAY_TYPE)
6107 : 4614310 : local.index = ce->index;
6108 : :
6109 : 14064520 : if (local.field && flag_verbose_asm)
6110 : 0 : fprintf (asm_out_file, "%s %s:\n",
6111 : : ASM_COMMENT_START,
6112 : 0 : DECL_NAME (local.field)
6113 : 0 : ? IDENTIFIER_POINTER (DECL_NAME (local.field))
6114 : : : "<anonymous>");
6115 : :
6116 : : /* Eliminate the marker that makes a cast not be an lvalue. */
6117 : 14064520 : if (local.val != NULL_TREE)
6118 : 14064520 : STRIP_NOPS (local.val);
6119 : :
6120 : : /* Output the current element, using the appropriate helper ... */
6121 : :
6122 : : /* For an array slice not part of an outer bitfield. */
6123 : 14064520 : if (!outer
6124 : 14064520 : && local.index != NULL_TREE
6125 : 3849735 : && TREE_CODE (local.index) == RANGE_EXPR)
6126 : 783 : output_constructor_array_range (&local);
6127 : :
6128 : : /* For a field that is neither a true bitfield nor part of an outer one,
6129 : : known to be at least byte aligned and multiple-of-bytes long. */
6130 : 14063737 : else if (!outer
6131 : 14063737 : && (local.field == NULL_TREE
6132 : 9450210 : || !CONSTRUCTOR_BITFIELD_P (local.field)))
6133 : 14057905 : output_constructor_regular_field (&local);
6134 : :
6135 : : /* For a true bitfield or part of an outer one. Only INTEGER_CSTs are
6136 : : supported for scalar fields, so we may need to convert first. */
6137 : : else
6138 : : {
6139 : 5832 : if (TREE_CODE (local.val) == REAL_CST)
6140 : 0 : local.val
6141 : 0 : = fold_unary (VIEW_CONVERT_EXPR,
6142 : : build_nonstandard_integer_type
6143 : : (TYPE_PRECISION (TREE_TYPE (local.val)), 0),
6144 : : local.val);
6145 : 5832 : output_constructor_bitfield (&local, outer ? outer->bit_offset : 0);
6146 : : }
6147 : : }
6148 : :
6149 : : /* If we are not at toplevel, save the pending data for our caller.
6150 : : Otherwise output the pending data and padding zeros as needed. */
6151 : 3726747 : if (outer)
6152 : 0 : outer->byte = local.byte;
6153 : : else
6154 : : {
6155 : 3726747 : if (local.byte_buffer_in_use)
6156 : : {
6157 : 1966 : assemble_integer (GEN_INT (local.byte), 1, BITS_PER_UNIT, 1);
6158 : 1966 : local.total_bytes++;
6159 : : }
6160 : :
6161 : 3726747 : if ((unsigned HOST_WIDE_INT)local.total_bytes < local.size)
6162 : : {
6163 : 55862 : assemble_zeros (local.size - local.total_bytes);
6164 : 55862 : local.total_bytes = local.size;
6165 : : }
6166 : : }
6167 : :
6168 : 3726747 : return local.total_bytes;
6169 : : }
6170 : :
6171 : : /* Mark DECL as weak. */
6172 : :
6173 : : static void
6174 : 111531 : mark_weak (tree decl)
6175 : : {
6176 : 111531 : if (DECL_WEAK (decl))
6177 : : return;
6178 : :
6179 : 111517 : struct symtab_node *n = symtab_node::get (decl);
6180 : 111517 : if (n && n->refuse_visibility_changes)
6181 : 3 : error ("%qD declared weak after being used", decl);
6182 : 111517 : DECL_WEAK (decl) = 1;
6183 : :
6184 : 111517 : if (DECL_RTL_SET_P (decl)
6185 : 0 : && MEM_P (DECL_RTL (decl))
6186 : 0 : && XEXP (DECL_RTL (decl), 0)
6187 : 111517 : && GET_CODE (XEXP (DECL_RTL (decl), 0)) == SYMBOL_REF)
6188 : 0 : SYMBOL_REF_WEAK (XEXP (DECL_RTL (decl), 0)) = 1;
6189 : : }
6190 : :
6191 : : /* Merge weak status between NEWDECL and OLDDECL. */
6192 : :
6193 : : void
6194 : 18210234 : merge_weak (tree newdecl, tree olddecl)
6195 : : {
6196 : 18210234 : if (DECL_WEAK (newdecl) == DECL_WEAK (olddecl))
6197 : : {
6198 : 18200404 : if (DECL_WEAK (newdecl) && TARGET_SUPPORTS_WEAK)
6199 : : {
6200 : : tree *pwd;
6201 : : /* We put the NEWDECL on the weak_decls list at some point
6202 : : and OLDDECL as well. Keep just OLDDECL on the list. */
6203 : 158 : for (pwd = &weak_decls; *pwd; pwd = &TREE_CHAIN (*pwd))
6204 : 0 : if (TREE_VALUE (*pwd) == newdecl)
6205 : : {
6206 : 0 : *pwd = TREE_CHAIN (*pwd);
6207 : 0 : break;
6208 : : }
6209 : : }
6210 : 18200404 : return;
6211 : : }
6212 : :
6213 : 9830 : if (DECL_WEAK (newdecl))
6214 : : {
6215 : 291 : tree wd;
6216 : :
6217 : : /* NEWDECL is weak, but OLDDECL is not. */
6218 : :
6219 : : /* If we already output the OLDDECL, we're in trouble; we can't
6220 : : go back and make it weak. This should never happen in
6221 : : unit-at-a-time compilation. */
6222 : 291 : gcc_assert (!TREE_ASM_WRITTEN (olddecl));
6223 : :
6224 : : /* If we've already generated rtl referencing OLDDECL, we may
6225 : : have done so in a way that will not function properly with
6226 : : a weak symbol. Again in unit-at-a-time this should be
6227 : : impossible. */
6228 : 291 : gcc_assert (!TREE_USED (olddecl)
6229 : : || !TREE_SYMBOL_REFERENCED (DECL_ASSEMBLER_NAME (olddecl)));
6230 : :
6231 : : /* PR 49899: You cannot convert a static function into a weak, public function. */
6232 : 291 : if (! TREE_PUBLIC (olddecl) && TREE_PUBLIC (newdecl))
6233 : 1 : error ("weak declaration of %q+D being applied to a already "
6234 : : "existing, static definition", newdecl);
6235 : :
6236 : 291 : if (TARGET_SUPPORTS_WEAK)
6237 : : {
6238 : : /* We put the NEWDECL on the weak_decls list at some point.
6239 : : Replace it with the OLDDECL. */
6240 : 291 : for (wd = weak_decls; wd; wd = TREE_CHAIN (wd))
6241 : 0 : if (TREE_VALUE (wd) == newdecl)
6242 : : {
6243 : 0 : TREE_VALUE (wd) = olddecl;
6244 : 0 : break;
6245 : : }
6246 : : /* We may not find the entry on the list. If NEWDECL is a
6247 : : weak alias, then we will have already called
6248 : : globalize_decl to remove the entry; in that case, we do
6249 : : not need to do anything. */
6250 : : }
6251 : :
6252 : : /* Make the OLDDECL weak; it's OLDDECL that we'll be keeping. */
6253 : 291 : mark_weak (olddecl);
6254 : : }
6255 : : else
6256 : : /* OLDDECL was weak, but NEWDECL was not explicitly marked as
6257 : : weak. Just update NEWDECL to indicate that it's weak too. */
6258 : 9539 : mark_weak (newdecl);
6259 : : }
6260 : :
6261 : : /* Declare DECL to be a weak symbol. */
6262 : :
6263 : : void
6264 : 101706 : declare_weak (tree decl)
6265 : : {
6266 : : /* With -fsyntax-only, TREE_ASM_WRITTEN might be set on certain function
6267 : : decls earlier than normally, but as with -fsyntax-only nothing is really
6268 : : emitted, there is no harm in marking it weak later. */
6269 : 101706 : gcc_assert (TREE_CODE (decl) != FUNCTION_DECL
6270 : : || !TREE_ASM_WRITTEN (decl)
6271 : : || flag_syntax_only);
6272 : 101706 : if (! TREE_PUBLIC (decl))
6273 : : {
6274 : 5 : error ("weak declaration of %q+D must be public", decl);
6275 : 5 : return;
6276 : : }
6277 : 101701 : else if (!TARGET_SUPPORTS_WEAK)
6278 : : warning (0, "weak declaration of %q+D not supported", decl);
6279 : :
6280 : 101701 : mark_weak (decl);
6281 : 101701 : if (!lookup_attribute ("weak", DECL_ATTRIBUTES (decl)))
6282 : 101687 : DECL_ATTRIBUTES (decl)
6283 : 203374 : = tree_cons (get_identifier ("weak"), NULL, DECL_ATTRIBUTES (decl));
6284 : : }
6285 : :
6286 : : static void
6287 : 940 : weak_finish_1 (tree decl)
6288 : : {
6289 : : #if defined (ASM_WEAKEN_DECL) || defined (ASM_WEAKEN_LABEL)
6290 : 940 : const char *const name = IDENTIFIER_POINTER (DECL_ASSEMBLER_NAME (decl));
6291 : : #endif
6292 : :
6293 : 940 : if (! TREE_USED (decl))
6294 : : return;
6295 : :
6296 : : #ifdef ASM_WEAKEN_DECL
6297 : : ASM_WEAKEN_DECL (asm_out_file, decl, name, NULL);
6298 : : #else
6299 : : #ifdef ASM_WEAKEN_LABEL
6300 : 940 : ASM_WEAKEN_LABEL (asm_out_file, name);
6301 : : #else
6302 : : #ifdef ASM_OUTPUT_WEAK_ALIAS
6303 : : {
6304 : : static bool warn_once = 0;
6305 : : if (! warn_once)
6306 : : {
6307 : : warning (0, "only weak aliases are supported in this configuration");
6308 : : warn_once = 1;
6309 : : }
6310 : : return;
6311 : : }
6312 : : #endif
6313 : : #endif
6314 : : #endif
6315 : : }
6316 : :
6317 : : /* Fiven an assembly name, find the decl it is associated with. */
6318 : : static tree
6319 : 0 : find_decl (tree target)
6320 : : {
6321 : 0 : symtab_node *node = symtab_node::get_for_asmname (target);
6322 : 0 : if (node)
6323 : 0 : return node->decl;
6324 : : return NULL_TREE;
6325 : : }
6326 : :
6327 : : /* This TREE_LIST contains weakref targets. */
6328 : :
6329 : : static GTY(()) tree weakref_targets;
6330 : :
6331 : : /* Emit any pending weak declarations. */
6332 : :
6333 : : void
6334 : 224060 : weak_finish (void)
6335 : : {
6336 : 224060 : tree t;
6337 : :
6338 : 224160 : for (t = weakref_targets; t; t = TREE_CHAIN (t))
6339 : : {
6340 : 100 : tree alias_decl = TREE_PURPOSE (t);
6341 : 100 : tree target = ultimate_transparent_alias_target (&TREE_VALUE (t));
6342 : :
6343 : 100 : if (! TREE_SYMBOL_REFERENCED (DECL_ASSEMBLER_NAME (alias_decl))
6344 : 200 : || TREE_SYMBOL_REFERENCED (target))
6345 : : /* Remove alias_decl from the weak list, but leave entries for
6346 : : the target alone. */
6347 : : target = NULL_TREE;
6348 : : #ifndef ASM_OUTPUT_WEAKREF
6349 : : else if (! TREE_SYMBOL_REFERENCED (target))
6350 : : {
6351 : : /* Use ASM_WEAKEN_LABEL only if ASM_WEAKEN_DECL is not
6352 : : defined, otherwise we and weak_finish_1 would use
6353 : : different macros. */
6354 : : # if defined ASM_WEAKEN_LABEL && ! defined ASM_WEAKEN_DECL
6355 : : ASM_WEAKEN_LABEL (asm_out_file, IDENTIFIER_POINTER (target));
6356 : : # else
6357 : : tree decl = find_decl (target);
6358 : :
6359 : : if (! decl)
6360 : : {
6361 : : decl = build_decl (DECL_SOURCE_LOCATION (alias_decl),
6362 : : TREE_CODE (alias_decl), target,
6363 : : TREE_TYPE (alias_decl));
6364 : :
6365 : : DECL_EXTERNAL (decl) = 1;
6366 : : TREE_PUBLIC (decl) = 1;
6367 : : DECL_ARTIFICIAL (decl) = 1;
6368 : : TREE_NOTHROW (decl) = TREE_NOTHROW (alias_decl);
6369 : : TREE_USED (decl) = 1;
6370 : : }
6371 : :
6372 : : weak_finish_1 (decl);
6373 : : # endif
6374 : : }
6375 : : #endif
6376 : :
6377 : 100 : {
6378 : 100 : tree *p;
6379 : 100 : tree t2;
6380 : :
6381 : : /* Remove the alias and the target from the pending weak list
6382 : : so that we do not emit any .weak directives for the former,
6383 : : nor multiple .weak directives for the latter. */
6384 : 168 : for (p = &weak_decls; (t2 = *p) ; )
6385 : : {
6386 : 68 : if (TREE_VALUE (t2) == alias_decl
6387 : 68 : || target == DECL_ASSEMBLER_NAME (TREE_VALUE (t2)))
6388 : 0 : *p = TREE_CHAIN (t2);
6389 : : else
6390 : 68 : p = &TREE_CHAIN (t2);
6391 : : }
6392 : :
6393 : : /* Remove other weakrefs to the same target, to speed things up. */
6394 : 212 : for (p = &TREE_CHAIN (t); (t2 = *p) ; )
6395 : : {
6396 : 112 : if (target == ultimate_transparent_alias_target (&TREE_VALUE (t2)))
6397 : 0 : *p = TREE_CHAIN (t2);
6398 : : else
6399 : 112 : p = &TREE_CHAIN (t2);
6400 : : }
6401 : : }
6402 : : }
6403 : :
6404 : 225000 : for (t = weak_decls; t; t = TREE_CHAIN (t))
6405 : : {
6406 : 940 : tree decl = TREE_VALUE (t);
6407 : :
6408 : 940 : weak_finish_1 (decl);
6409 : : }
6410 : 224060 : }
6411 : :
6412 : : /* Emit the assembly bits to indicate that DECL is globally visible. */
6413 : :
6414 : : static void
6415 : 2603353 : globalize_decl (tree decl)
6416 : : {
6417 : :
6418 : : #if defined (ASM_WEAKEN_LABEL) || defined (ASM_WEAKEN_DECL)
6419 : 2603353 : if (DECL_WEAK (decl))
6420 : : {
6421 : 511235 : const char *name = XSTR (XEXP (DECL_RTL (decl), 0), 0);
6422 : 511235 : tree *p, t;
6423 : :
6424 : : #ifdef ASM_WEAKEN_DECL
6425 : : ASM_WEAKEN_DECL (asm_out_file, decl, name, 0);
6426 : : #else
6427 : 511235 : ASM_WEAKEN_LABEL (asm_out_file, name);
6428 : : #endif
6429 : :
6430 : : /* Remove this function from the pending weak list so that
6431 : : we do not emit multiple .weak directives for it. */
6432 : 1026049 : for (p = &weak_decls; (t = *p) ; )
6433 : : {
6434 : 3579 : if (DECL_ASSEMBLER_NAME (decl) == DECL_ASSEMBLER_NAME (TREE_VALUE (t)))
6435 : 0 : *p = TREE_CHAIN (t);
6436 : : else
6437 : 3579 : p = &TREE_CHAIN (t);
6438 : : }
6439 : :
6440 : : /* Remove weakrefs to the same target from the pending weakref
6441 : : list, for the same reason. */
6442 : 511235 : for (p = &weakref_targets; (t = *p) ; )
6443 : : {
6444 : 0 : if (DECL_ASSEMBLER_NAME (decl)
6445 : 0 : == ultimate_transparent_alias_target (&TREE_VALUE (t)))
6446 : 0 : *p = TREE_CHAIN (t);
6447 : : else
6448 : 0 : p = &TREE_CHAIN (t);
6449 : : }
6450 : :
6451 : : return;
6452 : : }
6453 : : #endif
6454 : :
6455 : 2092118 : targetm.asm_out.globalize_decl_name (asm_out_file, decl);
6456 : : }
6457 : :
6458 : : vec<alias_pair, va_gc> *alias_pairs;
6459 : :
6460 : : /* Output the assembler code for a define (equate) using ASM_OUTPUT_DEF
6461 : : or ASM_OUTPUT_DEF_FROM_DECLS. The function defines the symbol whose
6462 : : tree node is DECL to have the value of the tree node TARGET. */
6463 : :
6464 : : void
6465 : 63754 : do_assemble_alias (tree decl, tree target)
6466 : : {
6467 : 63754 : tree id;
6468 : :
6469 : : /* Emulated TLS had better not get this var. */
6470 : 63754 : gcc_assert (!(!targetm.have_tls
6471 : : && VAR_P (decl)
6472 : : && DECL_THREAD_LOCAL_P (decl)));
6473 : :
6474 : 63754 : if (TREE_ASM_WRITTEN (decl))
6475 : 127 : return;
6476 : :
6477 : 63754 : id = DECL_ASSEMBLER_NAME (decl);
6478 : 63754 : ultimate_transparent_alias_target (&id);
6479 : 63754 : ultimate_transparent_alias_target (&target);
6480 : :
6481 : : /* We must force creation of DECL_RTL for debug info generation, even though
6482 : : we don't use it here. */
6483 : 63754 : make_decl_rtl (decl);
6484 : :
6485 : 63754 : TREE_ASM_WRITTEN (decl) = 1;
6486 : 63754 : TREE_ASM_WRITTEN (DECL_ASSEMBLER_NAME (decl)) = 1;
6487 : 63754 : TREE_ASM_WRITTEN (id) = 1;
6488 : :
6489 : 63754 : if (lookup_attribute ("weakref", DECL_ATTRIBUTES (decl)))
6490 : : {
6491 : 127 : if (!TREE_SYMBOL_REFERENCED (target))
6492 : 100 : weakref_targets = tree_cons (decl, target, weakref_targets);
6493 : :
6494 : : #ifdef ASM_OUTPUT_WEAKREF
6495 : 127 : ASM_OUTPUT_WEAKREF (asm_out_file, decl,
6496 : : IDENTIFIER_POINTER (id),
6497 : : IDENTIFIER_POINTER (target));
6498 : : #else
6499 : : if (!TARGET_SUPPORTS_WEAK)
6500 : : {
6501 : : error_at (DECL_SOURCE_LOCATION (decl),
6502 : : "%qs is not supported in this configuration", "weakref ");
6503 : : return;
6504 : : }
6505 : : #endif
6506 : 127 : return;
6507 : : }
6508 : :
6509 : : #ifdef ASM_OUTPUT_DEF
6510 : 63627 : tree orig_decl = decl;
6511 : :
6512 : : /* Make name accessible from other files, if appropriate. */
6513 : :
6514 : 63627 : if (TREE_PUBLIC (decl) || TREE_PUBLIC (orig_decl))
6515 : : {
6516 : 44720 : globalize_decl (decl);
6517 : 44720 : maybe_assemble_visibility (decl);
6518 : : }
6519 : 63627 : if (TREE_CODE (decl) == FUNCTION_DECL
6520 : 63627 : && cgraph_node::get (decl)->ifunc_resolver)
6521 : : {
6522 : : #if defined (ASM_OUTPUT_TYPE_DIRECTIVE)
6523 : 248 : if (targetm.has_ifunc_p ())
6524 : 248 : ASM_OUTPUT_TYPE_DIRECTIVE
6525 : : (asm_out_file, IDENTIFIER_POINTER (id),
6526 : : IFUNC_ASM_TYPE);
6527 : : else
6528 : : #endif
6529 : 0 : error_at (DECL_SOURCE_LOCATION (decl),
6530 : : "%qs is not supported on this target", "ifunc");
6531 : : }
6532 : :
6533 : : # ifdef ASM_OUTPUT_DEF_FROM_DECLS
6534 : : ASM_OUTPUT_DEF_FROM_DECLS (asm_out_file, decl, target);
6535 : : # else
6536 : 63627 : ASM_OUTPUT_DEF (asm_out_file,
6537 : : IDENTIFIER_POINTER (id),
6538 : : IDENTIFIER_POINTER (target));
6539 : : # endif
6540 : : /* If symbol aliases aren't actually supported... */
6541 : 63627 : if (!TARGET_SUPPORTS_ALIASES)
6542 : : /* ..., 'ASM_OUTPUT_DEF{,_FROM_DECLS}' better have raised an error. */
6543 : : gcc_checking_assert (seen_error ());
6544 : : #elif defined (ASM_OUTPUT_WEAK_ALIAS) || defined (ASM_WEAKEN_DECL)
6545 : : {
6546 : : const char *name;
6547 : : tree *p, t;
6548 : :
6549 : : name = IDENTIFIER_POINTER (id);
6550 : : # ifdef ASM_WEAKEN_DECL
6551 : : ASM_WEAKEN_DECL (asm_out_file, decl, name, IDENTIFIER_POINTER (target));
6552 : : # else
6553 : : ASM_OUTPUT_WEAK_ALIAS (asm_out_file, name, IDENTIFIER_POINTER (target));
6554 : : # endif
6555 : : /* Remove this function from the pending weak list so that
6556 : : we do not emit multiple .weak directives for it. */
6557 : : for (p = &weak_decls; (t = *p) ; )
6558 : : if (DECL_ASSEMBLER_NAME (decl) == DECL_ASSEMBLER_NAME (TREE_VALUE (t))
6559 : : || id == DECL_ASSEMBLER_NAME (TREE_VALUE (t)))
6560 : : *p = TREE_CHAIN (t);
6561 : : else
6562 : : p = &TREE_CHAIN (t);
6563 : :
6564 : : /* Remove weakrefs to the same target from the pending weakref
6565 : : list, for the same reason. */
6566 : : for (p = &weakref_targets; (t = *p) ; )
6567 : : {
6568 : : if (id == ultimate_transparent_alias_target (&TREE_VALUE (t)))
6569 : : *p = TREE_CHAIN (t);
6570 : : else
6571 : : p = &TREE_CHAIN (t);
6572 : : }
6573 : : }
6574 : : #endif
6575 : : }
6576 : :
6577 : : /* Output .symver directive. */
6578 : :
6579 : : void
6580 : 2 : do_assemble_symver (tree decl, tree target)
6581 : : {
6582 : 2 : tree id = DECL_ASSEMBLER_NAME (decl);
6583 : 2 : ultimate_transparent_alias_target (&id);
6584 : 2 : ultimate_transparent_alias_target (&target);
6585 : : #ifdef ASM_OUTPUT_SYMVER_DIRECTIVE
6586 : 2 : ASM_OUTPUT_SYMVER_DIRECTIVE (asm_out_file,
6587 : : IDENTIFIER_POINTER (target),
6588 : : IDENTIFIER_POINTER (id));
6589 : : #else
6590 : : error ("symver is only supported on ELF platforms");
6591 : : #endif
6592 : 2 : }
6593 : :
6594 : : /* Emit an assembler directive to make the symbol for DECL an alias to
6595 : : the symbol for TARGET. */
6596 : :
6597 : : void
6598 : 5568 : assemble_alias (tree decl, tree target)
6599 : : {
6600 : 5568 : tree target_decl;
6601 : :
6602 : 5568 : if (lookup_attribute ("weakref", DECL_ATTRIBUTES (decl)))
6603 : : {
6604 : 454 : tree alias = DECL_ASSEMBLER_NAME (decl);
6605 : :
6606 : 454 : ultimate_transparent_alias_target (&target);
6607 : :
6608 : 454 : if (alias == target)
6609 : 0 : error ("%qs symbol %q+D ultimately targets itself", "weakref", decl);
6610 : 454 : if (TREE_PUBLIC (decl))
6611 : 1 : error ("%qs symbol %q+D must have static linkage", "weakref", decl);
6612 : : }
6613 : : else if (!TARGET_SUPPORTS_ALIASES)
6614 : : {
6615 : : # if !defined(ASM_OUTPUT_WEAK_ALIAS) && !defined (ASM_WEAKEN_DECL)
6616 : : error_at (DECL_SOURCE_LOCATION (decl),
6617 : : "alias definitions not supported in this configuration");
6618 : : TREE_ASM_WRITTEN (decl) = 1;
6619 : : return;
6620 : : # else
6621 : : if (!DECL_WEAK (decl))
6622 : : {
6623 : : /* NB: ifunc_resolver isn't set when an error is detected. */
6624 : : if (TREE_CODE (decl) == FUNCTION_DECL
6625 : : && lookup_attribute ("ifunc", DECL_ATTRIBUTES (decl)))
6626 : : error_at (DECL_SOURCE_LOCATION (decl),
6627 : : "%qs is not supported in this configuration", "ifunc");
6628 : : else
6629 : : error_at (DECL_SOURCE_LOCATION (decl),
6630 : : "only weak aliases are supported in this configuration");
6631 : : TREE_ASM_WRITTEN (decl) = 1;
6632 : : return;
6633 : : }
6634 : : # endif
6635 : : gcc_unreachable ();
6636 : : }
6637 : 5568 : TREE_USED (decl) = 1;
6638 : :
6639 : : /* Allow aliases to aliases. */
6640 : 5568 : if (TREE_CODE (decl) == FUNCTION_DECL)
6641 : 5373 : cgraph_node::get_create (decl)->alias = true;
6642 : : else
6643 : 195 : varpool_node::get_create (decl)->alias = true;
6644 : :
6645 : : /* If the target has already been emitted, we don't have to queue the
6646 : : alias. This saves a tad of memory. */
6647 : 5568 : if (symtab->global_info_ready)
6648 : 0 : target_decl = find_decl (target);
6649 : : else
6650 : : target_decl= NULL;
6651 : 0 : if ((target_decl && TREE_ASM_WRITTEN (target_decl))
6652 : 5568 : || symtab->state >= EXPANSION)
6653 : 0 : do_assemble_alias (decl, target);
6654 : : else
6655 : : {
6656 : 5568 : alias_pair p = {decl, target};
6657 : 5568 : vec_safe_push (alias_pairs, p);
6658 : : }
6659 : : }
6660 : :
6661 : : /* Record and output a table of translations from original function
6662 : : to its transaction aware clone. Note that tm_pure functions are
6663 : : considered to be their own clone. */
6664 : :
6665 : : struct tm_clone_hasher : ggc_cache_ptr_hash<tree_map>
6666 : : {
6667 : 229 : static hashval_t hash (tree_map *m) { return tree_map_hash (m); }
6668 : 260 : static bool equal (tree_map *a, tree_map *b) { return tree_map_eq (a, b); }
6669 : :
6670 : : static int
6671 : 13 : keep_cache_entry (tree_map *&e)
6672 : : {
6673 : 13 : return ggc_marked_p (e->base.from);
6674 : : }
6675 : : };
6676 : :
6677 : : static GTY((cache)) hash_table<tm_clone_hasher> *tm_clone_hash;
6678 : :
6679 : : void
6680 : 459 : record_tm_clone_pair (tree o, tree n)
6681 : : {
6682 : 459 : struct tree_map **slot, *h;
6683 : :
6684 : 459 : if (tm_clone_hash == NULL)
6685 : 165 : tm_clone_hash = hash_table<tm_clone_hasher>::create_ggc (32);
6686 : :
6687 : 459 : h = ggc_alloc<tree_map> ();
6688 : 459 : h->hash = htab_hash_pointer (o);
6689 : 459 : h->base.from = o;
6690 : 459 : h->to = n;
6691 : :
6692 : 459 : slot = tm_clone_hash->find_slot_with_hash (h, h->hash, INSERT);
6693 : 459 : *slot = h;
6694 : 459 : }
6695 : :
6696 : : tree
6697 : 7 : get_tm_clone_pair (tree o)
6698 : : {
6699 : 7 : if (tm_clone_hash)
6700 : : {
6701 : 7 : struct tree_map *h, in;
6702 : :
6703 : 7 : in.base.from = o;
6704 : 7 : in.hash = htab_hash_pointer (o);
6705 : 7 : h = tm_clone_hash->find_with_hash (&in, in.hash);
6706 : 7 : if (h)
6707 : 0 : return h->to;
6708 : : }
6709 : : return NULL_TREE;
6710 : : }
6711 : :
6712 : : struct tm_alias_pair
6713 : : {
6714 : : unsigned int uid;
6715 : : tree from;
6716 : : tree to;
6717 : : };
6718 : :
6719 : :
6720 : : /* Dump the actual pairs to the .tm_clone_table section. */
6721 : :
6722 : : static void
6723 : 148 : dump_tm_clone_pairs (vec<tm_alias_pair> tm_alias_pairs)
6724 : : {
6725 : 148 : unsigned i;
6726 : 148 : tm_alias_pair *p;
6727 : 148 : bool switched = false;
6728 : :
6729 : 561 : FOR_EACH_VEC_ELT (tm_alias_pairs, i, p)
6730 : : {
6731 : 413 : tree src = p->from;
6732 : 413 : tree dst = p->to;
6733 : 413 : struct cgraph_node *src_n = cgraph_node::get (src);
6734 : 413 : struct cgraph_node *dst_n = cgraph_node::get (dst);
6735 : :
6736 : : /* The function ipa_tm_create_version() marks the clone as needed if
6737 : : the original function was needed. But we also mark the clone as
6738 : : needed if we ever called the clone indirectly through
6739 : : TM_GETTMCLONE. If neither of these are true, we didn't generate
6740 : : a clone, and we didn't call it indirectly... no sense keeping it
6741 : : in the clone table. */
6742 : 413 : if (!dst_n || !dst_n->definition)
6743 : 130 : continue;
6744 : :
6745 : : /* This covers the case where we have optimized the original
6746 : : function away, and only access the transactional clone. */
6747 : 283 : if (!src_n || !src_n->definition)
6748 : 9 : continue;
6749 : :
6750 : 274 : if (!switched)
6751 : : {
6752 : 120 : switch_to_section (targetm.asm_out.tm_clone_table_section ());
6753 : 120 : assemble_align (POINTER_SIZE);
6754 : 120 : switched = true;
6755 : : }
6756 : :
6757 : 548 : assemble_integer (XEXP (DECL_RTL (src), 0),
6758 : 548 : POINTER_SIZE_UNITS, POINTER_SIZE, 1);
6759 : 548 : assemble_integer (XEXP (DECL_RTL (dst), 0),
6760 : 548 : POINTER_SIZE_UNITS, POINTER_SIZE, 1);
6761 : : }
6762 : 148 : }
6763 : :
6764 : : /* Provide a default for the tm_clone_table section. */
6765 : :
6766 : : section *
6767 : 120 : default_clone_table_section (void)
6768 : : {
6769 : 120 : return get_named_section (NULL, ".tm_clone_table", 3);
6770 : : }
6771 : :
6772 : : /* Helper comparison function for qsorting by the DECL_UID stored in
6773 : : alias_pair->emitted_diags. */
6774 : :
6775 : : static int
6776 : 3471 : tm_alias_pair_cmp (const void *x, const void *y)
6777 : : {
6778 : 3471 : const tm_alias_pair *p1 = (const tm_alias_pair *) x;
6779 : 3471 : const tm_alias_pair *p2 = (const tm_alias_pair *) y;
6780 : 3471 : if (p1->uid < p2->uid)
6781 : : return -1;
6782 : 1544 : if (p1->uid > p2->uid)
6783 : 1544 : return 1;
6784 : : return 0;
6785 : : }
6786 : :
6787 : : void
6788 : 224060 : finish_tm_clone_pairs (void)
6789 : : {
6790 : 224060 : vec<tm_alias_pair> tm_alias_pairs = vNULL;
6791 : :
6792 : 224060 : if (tm_clone_hash == NULL)
6793 : 223912 : return;
6794 : :
6795 : : /* We need a determenistic order for the .tm_clone_table, otherwise
6796 : : we will get bootstrap comparison failures, so dump the hash table
6797 : : to a vector, sort it, and dump the vector. */
6798 : :
6799 : : /* Dump the hashtable to a vector. */
6800 : 148 : tree_map *map;
6801 : 148 : hash_table<tm_clone_hasher>::iterator iter;
6802 : 974 : FOR_EACH_HASH_TABLE_ELEMENT (*tm_clone_hash, map, tree_map *, iter)
6803 : : {
6804 : 413 : tm_alias_pair p = {DECL_UID (map->base.from), map->base.from, map->to};
6805 : 413 : tm_alias_pairs.safe_push (p);
6806 : : }
6807 : : /* Sort it. */
6808 : 148 : tm_alias_pairs.qsort (tm_alias_pair_cmp);
6809 : :
6810 : : /* Dump it. */
6811 : 148 : dump_tm_clone_pairs (tm_alias_pairs);
6812 : :
6813 : 148 : tm_clone_hash->empty ();
6814 : 148 : tm_clone_hash = NULL;
6815 : 148 : tm_alias_pairs.release ();
6816 : : }
6817 : :
6818 : :
6819 : : /* Emit an assembler directive to set symbol for DECL visibility to
6820 : : the visibility type VIS, which must not be VISIBILITY_DEFAULT. */
6821 : :
6822 : : void
6823 : 28796 : default_assemble_visibility (tree decl ATTRIBUTE_UNUSED,
6824 : : int vis ATTRIBUTE_UNUSED)
6825 : : {
6826 : : #ifdef HAVE_GAS_HIDDEN
6827 : 28796 : static const char * const visibility_types[] = {
6828 : : NULL, "protected", "hidden", "internal"
6829 : : };
6830 : :
6831 : 28796 : const char *name, *type;
6832 : 28796 : tree id;
6833 : :
6834 : 28796 : id = DECL_ASSEMBLER_NAME (decl);
6835 : 28796 : ultimate_transparent_alias_target (&id);
6836 : 28796 : name = IDENTIFIER_POINTER (id);
6837 : :
6838 : 28796 : type = visibility_types[vis];
6839 : :
6840 : 28796 : fprintf (asm_out_file, "\t.%s\t", type);
6841 : 28796 : assemble_name (asm_out_file, name);
6842 : 28796 : fprintf (asm_out_file, "\n");
6843 : : #else
6844 : : if (!DECL_ARTIFICIAL (decl))
6845 : : warning (OPT_Wattributes, "visibility attribute not supported "
6846 : : "in this configuration; ignored");
6847 : : #endif
6848 : 28796 : }
6849 : :
6850 : : /* A helper function to call assemble_visibility when needed for a decl. */
6851 : :
6852 : : bool
6853 : 2792303 : maybe_assemble_visibility (tree decl)
6854 : : {
6855 : 2792303 : enum symbol_visibility vis = DECL_VISIBILITY (decl);
6856 : 2792303 : if (vis != VISIBILITY_DEFAULT)
6857 : : {
6858 : 27453 : targetm.asm_out.assemble_visibility (decl, vis);
6859 : 27453 : return true;
6860 : : }
6861 : : else
6862 : : return false;
6863 : : }
6864 : :
6865 : : /* Returns true if the target configuration supports defining public symbols
6866 : : so that one of them will be chosen at link time instead of generating a
6867 : : multiply-defined symbol error, whether through the use of weak symbols or
6868 : : a target-specific mechanism for having duplicates discarded. */
6869 : :
6870 : : bool
6871 : 92703 : supports_one_only (void)
6872 : : {
6873 : 92703 : if (SUPPORTS_ONE_ONLY)
6874 : 92703 : return true;
6875 : : if (TARGET_SUPPORTS_WEAK)
6876 : : return true;
6877 : : return false;
6878 : : }
6879 : :
6880 : : /* Set up DECL as a public symbol that can be defined in multiple
6881 : : translation units without generating a linker error. */
6882 : :
6883 : : void
6884 : 61240688 : make_decl_one_only (tree decl, tree comdat_group)
6885 : : {
6886 : 61240688 : struct symtab_node *symbol;
6887 : 61240688 : gcc_assert (VAR_OR_FUNCTION_DECL_P (decl));
6888 : :
6889 : 61240688 : TREE_PUBLIC (decl) = 1;
6890 : :
6891 : 61240688 : if (VAR_P (decl))
6892 : 22844595 : symbol = varpool_node::get_create (decl);
6893 : : else
6894 : 38396093 : symbol = cgraph_node::get_create (decl);
6895 : :
6896 : 61240688 : if (SUPPORTS_ONE_ONLY)
6897 : : {
6898 : : #ifdef MAKE_DECL_ONE_ONLY
6899 : 61240688 : MAKE_DECL_ONE_ONLY (decl);
6900 : : #endif
6901 : 61240688 : symbol->set_comdat_group (comdat_group);
6902 : : }
6903 : : else if (VAR_P (decl)
6904 : : && (DECL_INITIAL (decl) == 0
6905 : : || (!in_lto_p && DECL_INITIAL (decl) == error_mark_node)))
6906 : : DECL_COMMON (decl) = 1;
6907 : : else
6908 : : {
6909 : : gcc_assert (TARGET_SUPPORTS_WEAK);
6910 : : DECL_WEAK (decl) = 1;
6911 : : }
6912 : 61240688 : }
6913 : :
6914 : : void
6915 : 273801 : init_varasm_once (void)
6916 : : {
6917 : 273801 : section_htab = hash_table<section_hasher>::create_ggc (31);
6918 : 273801 : object_block_htab = hash_table<object_block_hasher>::create_ggc (31);
6919 : 273801 : const_desc_htab = hash_table<tree_descriptor_hasher>::create_ggc (1009);
6920 : :
6921 : 273801 : shared_constant_pool = create_constant_pool ();
6922 : :
6923 : : #ifdef TEXT_SECTION_ASM_OP
6924 : 273801 : text_section = get_unnamed_section (SECTION_CODE, output_section_asm_op,
6925 : : TEXT_SECTION_ASM_OP);
6926 : : #endif
6927 : :
6928 : : #ifdef DATA_SECTION_ASM_OP
6929 : 273801 : data_section = get_unnamed_section (SECTION_WRITE, output_section_asm_op,
6930 : : DATA_SECTION_ASM_OP);
6931 : : #endif
6932 : :
6933 : : #ifdef SDATA_SECTION_ASM_OP
6934 : : sdata_section = get_unnamed_section (SECTION_WRITE, output_section_asm_op,
6935 : : SDATA_SECTION_ASM_OP);
6936 : : #endif
6937 : :
6938 : : #ifdef READONLY_DATA_SECTION_ASM_OP
6939 : 273801 : readonly_data_section = get_unnamed_section (0, output_section_asm_op,
6940 : : READONLY_DATA_SECTION_ASM_OP);
6941 : : #endif
6942 : :
6943 : : #ifdef CTORS_SECTION_ASM_OP
6944 : : ctors_section = get_unnamed_section (0, output_section_asm_op,
6945 : : CTORS_SECTION_ASM_OP);
6946 : : #endif
6947 : :
6948 : : #ifdef DTORS_SECTION_ASM_OP
6949 : : dtors_section = get_unnamed_section (0, output_section_asm_op,
6950 : : DTORS_SECTION_ASM_OP);
6951 : : #endif
6952 : :
6953 : : #ifdef BSS_SECTION_ASM_OP
6954 : 273801 : bss_section = get_unnamed_section (SECTION_WRITE | SECTION_BSS,
6955 : : output_section_asm_op,
6956 : : BSS_SECTION_ASM_OP);
6957 : : #endif
6958 : :
6959 : : #ifdef SBSS_SECTION_ASM_OP
6960 : : sbss_section = get_unnamed_section (SECTION_WRITE | SECTION_BSS,
6961 : : output_section_asm_op,
6962 : : SBSS_SECTION_ASM_OP);
6963 : : #endif
6964 : :
6965 : 273801 : tls_comm_section = get_noswitch_section (SECTION_WRITE | SECTION_BSS
6966 : : | SECTION_COMMON, emit_tls_common);
6967 : 273801 : lcomm_section = get_noswitch_section (SECTION_WRITE | SECTION_BSS
6968 : : | SECTION_COMMON, emit_local);
6969 : 273801 : comm_section = get_noswitch_section (SECTION_WRITE | SECTION_BSS
6970 : : | SECTION_COMMON, emit_common);
6971 : :
6972 : : #if defined ASM_OUTPUT_ALIGNED_BSS
6973 : 273801 : bss_noswitch_section = get_noswitch_section (SECTION_WRITE | SECTION_BSS,
6974 : : emit_bss);
6975 : : #endif
6976 : :
6977 : 273801 : targetm.asm_out.init_sections ();
6978 : :
6979 : 273801 : if (readonly_data_section == NULL)
6980 : 0 : readonly_data_section = text_section;
6981 : :
6982 : : #ifdef ASM_OUTPUT_EXTERNAL
6983 : 273801 : pending_assemble_externals_set = new hash_set<tree>;
6984 : : #endif
6985 : 273801 : }
6986 : :
6987 : : /* Determine whether SYMBOL is used in any optimized function. */
6988 : :
6989 : : static bool
6990 : 147 : have_optimized_refs (struct symtab_node *symbol)
6991 : : {
6992 : 147 : struct ipa_ref *ref;
6993 : :
6994 : 171 : for (int i = 0; symbol->iterate_referring (i, ref); i++)
6995 : : {
6996 : 187 : cgraph_node *cnode = dyn_cast <cgraph_node *> (ref->referring);
6997 : :
6998 : 163 : if (cnode && opt_for_fn (cnode->decl, optimize))
6999 : : return true;
7000 : : }
7001 : :
7002 : : return false;
7003 : : }
7004 : :
7005 : : /* Check if promoting general-dynamic TLS access model to local-dynamic is
7006 : : desirable for DECL. */
7007 : :
7008 : : static bool
7009 : 262 : optimize_dyn_tls_for_decl_p (const_tree decl)
7010 : : {
7011 : 262 : if (cfun)
7012 : 22 : return optimize;
7013 : 240 : return symtab->state >= IPA && have_optimized_refs (symtab_node::get (decl));
7014 : : }
7015 : :
7016 : :
7017 : : enum tls_model
7018 : 27519 : decl_default_tls_model (const_tree decl)
7019 : : {
7020 : 27519 : enum tls_model kind;
7021 : 27519 : bool is_local;
7022 : :
7023 : 27519 : is_local = targetm.binds_local_p (decl);
7024 : 27519 : if (!flag_shlib)
7025 : : {
7026 : 25263 : if (is_local)
7027 : : kind = TLS_MODEL_LOCAL_EXEC;
7028 : : else
7029 : 20191 : kind = TLS_MODEL_INITIAL_EXEC;
7030 : : }
7031 : :
7032 : : /* Local dynamic is inefficient when we're not combining the
7033 : : parts of the address. */
7034 : 2256 : else if (is_local && optimize_dyn_tls_for_decl_p (decl))
7035 : : kind = TLS_MODEL_LOCAL_DYNAMIC;
7036 : : else
7037 : : kind = TLS_MODEL_GLOBAL_DYNAMIC;
7038 : 27519 : if (kind < flag_tls_default)
7039 : 176 : kind = flag_tls_default;
7040 : :
7041 : 27519 : return kind;
7042 : : }
7043 : :
7044 : : /* Select a set of attributes for section NAME based on the properties
7045 : : of DECL and whether or not RELOC indicates that DECL's initializer
7046 : : might contain runtime relocations.
7047 : :
7048 : : We make the section read-only and executable for a function decl,
7049 : : read-only for a const data decl, and writable for a non-const data decl. */
7050 : :
7051 : : unsigned int
7052 : 56834510 : default_section_type_flags (tree decl, const char *name, int reloc)
7053 : : {
7054 : 56834510 : unsigned int flags;
7055 : :
7056 : 56834510 : if (decl && TREE_CODE (decl) == FUNCTION_DECL)
7057 : : flags = SECTION_CODE;
7058 : 2951088 : else if (strcmp (name, ".data.rel.ro") == 0
7059 : 2950975 : || strcmp (name, ".data.rel.ro.local") == 0)
7060 : : flags = SECTION_WRITE | SECTION_RELRO;
7061 : 2950600 : else if (decl)
7062 : : {
7063 : 2950480 : enum section_category category
7064 : 2950480 : = categorize_decl_for_section (decl, reloc);
7065 : 6534515 : if (decl_readonly_section_1 (category))
7066 : : flags = 0;
7067 : 633067 : else if (category == SECCAT_DATA_REL_RO
7068 : 633067 : || category == SECCAT_DATA_REL_RO_LOCAL)
7069 : : flags = SECTION_WRITE | SECTION_RELRO;
7070 : : else
7071 : 2950968 : flags = SECTION_WRITE;
7072 : : }
7073 : : else
7074 : : flags = SECTION_WRITE;
7075 : :
7076 : 56834390 : if (decl && DECL_P (decl) && DECL_COMDAT_GROUP (decl))
7077 : 29867677 : flags |= SECTION_LINKONCE;
7078 : :
7079 : 56834510 : if (strcmp (name, ".vtable_map_vars") == 0)
7080 : 6 : flags |= SECTION_LINKONCE;
7081 : :
7082 : 56834510 : if (decl && VAR_P (decl) && DECL_THREAD_LOCAL_P (decl))
7083 : 3304 : flags |= SECTION_TLS | SECTION_WRITE;
7084 : :
7085 : 56834510 : if (strcmp (name, ".bss") == 0
7086 : 56834510 : || startswith (name, ".bss.")
7087 : 56821230 : || startswith (name, ".gnu.linkonce.b.")
7088 : 56821230 : || strcmp (name, ".persistent.bss") == 0
7089 : 56821230 : || strcmp (name, ".sbss") == 0
7090 : 56821230 : || startswith (name, ".sbss.")
7091 : 113655740 : || startswith (name, ".gnu.linkonce.sb."))
7092 : 13280 : flags |= SECTION_BSS;
7093 : :
7094 : 56834510 : if (strcmp (name, ".tdata") == 0
7095 : 56834203 : || startswith (name, ".tdata.")
7096 : 113668707 : || startswith (name, ".gnu.linkonce.td."))
7097 : 313 : flags |= SECTION_TLS;
7098 : :
7099 : 56834510 : if (strcmp (name, ".tbss") == 0
7100 : 56831572 : || startswith (name, ".tbss.")
7101 : 113666035 : || startswith (name, ".gnu.linkonce.tb."))
7102 : 2985 : flags |= SECTION_TLS | SECTION_BSS;
7103 : :
7104 : 56834510 : if (strcmp (name, ".noinit") == 0)
7105 : 0 : flags |= SECTION_WRITE | SECTION_BSS | SECTION_NOTYPE;
7106 : :
7107 : 56834510 : if (strcmp (name, ".persistent") == 0)
7108 : 0 : flags |= SECTION_WRITE | SECTION_NOTYPE;
7109 : :
7110 : : /* Various sections have special ELF types that the assembler will
7111 : : assign by default based on the name. They are neither SHT_PROGBITS
7112 : : nor SHT_NOBITS, so when changing sections we don't want to print a
7113 : : section type (@progbits or @nobits). Rather than duplicating the
7114 : : assembler's knowledge of what those special name patterns are, just
7115 : : let the assembler choose the type if we don't know a specific
7116 : : reason to set it to something other than the default. SHT_PROGBITS
7117 : : is the default for sections whose name is not specially known to
7118 : : the assembler, so it does no harm to leave the choice to the
7119 : : assembler when @progbits is the best thing we know to use. If
7120 : : someone is silly enough to emit code or TLS variables to one of
7121 : : these sections, then don't handle them specially.
7122 : :
7123 : : default_elf_asm_named_section (below) handles the BSS, TLS, ENTSIZE, and
7124 : : LINKONCE cases when NOTYPE is not set, so leave those to its logic. */
7125 : 56834510 : if (!(flags & (SECTION_CODE | SECTION_BSS | SECTION_TLS | SECTION_ENTSIZE))
7126 : 56834510 : && !(HAVE_COMDAT_GROUP && (flags & SECTION_LINKONCE)))
7127 : 2391605 : flags |= SECTION_NOTYPE;
7128 : :
7129 : 56834510 : return flags;
7130 : : }
7131 : :
7132 : : /* Return true if the target supports some form of global BSS,
7133 : : either through bss_noswitch_section, or by selecting a BSS
7134 : : section in TARGET_ASM_SELECT_SECTION. */
7135 : :
7136 : : bool
7137 : 0 : have_global_bss_p (void)
7138 : : {
7139 : 0 : return bss_noswitch_section || targetm.have_switchable_bss_sections;
7140 : : }
7141 : :
7142 : : /* Output assembly to switch to section NAME with attribute FLAGS.
7143 : : Four variants for common object file formats. */
7144 : :
7145 : : void
7146 : 0 : default_no_named_section (const char *name ATTRIBUTE_UNUSED,
7147 : : unsigned int flags ATTRIBUTE_UNUSED,
7148 : : tree decl ATTRIBUTE_UNUSED)
7149 : : {
7150 : : /* Some object formats don't support named sections at all. The
7151 : : front-end should already have flagged this as an error. */
7152 : 0 : gcc_unreachable ();
7153 : : }
7154 : :
7155 : : #ifndef TLS_SECTION_ASM_FLAG
7156 : : #define TLS_SECTION_ASM_FLAG 'T'
7157 : : #endif
7158 : :
7159 : : void
7160 : 3498287 : default_elf_asm_named_section (const char *name, unsigned int flags,
7161 : : tree decl)
7162 : : {
7163 : 3498287 : char flagchars[11], *f = flagchars;
7164 : 3498287 : unsigned int numeric_value = 0;
7165 : :
7166 : : /* If we have already declared this section, we can use an
7167 : : abbreviated form to switch back to it -- unless this section is
7168 : : part of a COMDAT groups or with SHF_GNU_RETAIN or with SHF_LINK_ORDER,
7169 : : in which case GAS requires the full declaration every time. */
7170 : 3498287 : if (!(HAVE_COMDAT_GROUP && (flags & SECTION_LINKONCE))
7171 : : && !(flags & (SECTION_RETAIN | SECTION_LINK_ORDER))
7172 : 3498287 : && (flags & SECTION_DECLARED))
7173 : : {
7174 : 372449 : fprintf (asm_out_file, "\t.section\t%s\n", name);
7175 : 372449 : return;
7176 : : }
7177 : :
7178 : : /* If we have a machine specific flag, then use the numeric value to pass
7179 : : this on to GAS. */
7180 : 3125838 : if (targetm.asm_out.elf_flags_numeric (flags, &numeric_value))
7181 : 0 : snprintf (f, sizeof (flagchars), "0x%08x", numeric_value);
7182 : : else
7183 : : {
7184 : 3125838 : if (!(flags & SECTION_DEBUG))
7185 : 2072454 : *f++ = 'a';
7186 : : #if HAVE_GAS_SECTION_EXCLUDE
7187 : 3125838 : if (flags & SECTION_EXCLUDE)
7188 : 435303 : *f++ = 'e';
7189 : : #endif
7190 : 3125838 : if (flags & SECTION_WRITE)
7191 : 344696 : *f++ = 'w';
7192 : 3125838 : if (flags & SECTION_CODE)
7193 : 355640 : *f++ = 'x';
7194 : 3125838 : if (flags & SECTION_SMALL)
7195 : 0 : *f++ = 's';
7196 : 3125838 : if (flags & SECTION_MERGE)
7197 : 218207 : *f++ = 'M';
7198 : 3125838 : if (flags & SECTION_STRINGS)
7199 : 173667 : *f++ = 'S';
7200 : 3125838 : if (flags & SECTION_TLS)
7201 : 1017 : *f++ = TLS_SECTION_ASM_FLAG;
7202 : 3125838 : if (HAVE_COMDAT_GROUP && (flags & SECTION_LINKONCE))
7203 : 536096 : *f++ = 'G';
7204 : 3125838 : if (flags & SECTION_RETAIN)
7205 : 258 : *f++ = 'R';
7206 : 3125838 : if (flags & SECTION_LINK_ORDER)
7207 : 53 : *f++ = 'o';
7208 : : #ifdef MACH_DEP_SECTION_ASM_FLAG
7209 : : if (flags & SECTION_MACH_DEP)
7210 : : *f++ = MACH_DEP_SECTION_ASM_FLAG;
7211 : : #endif
7212 : 3125838 : *f = '\0';
7213 : : }
7214 : :
7215 : 3125838 : fprintf (asm_out_file, "\t.section\t%s,\"%s\"", name, flagchars);
7216 : :
7217 : : /* default_section_type_flags (above) knows which flags need special
7218 : : handling here, and sets NOTYPE when none of these apply so that the
7219 : : assembler's logic for default types can apply to user-chosen
7220 : : section names. */
7221 : 3125838 : if (!(flags & SECTION_NOTYPE))
7222 : : {
7223 : 1886403 : const char *type;
7224 : 1886403 : const char *format;
7225 : :
7226 : 1886403 : if (flags & SECTION_BSS)
7227 : : type = "nobits";
7228 : : else
7229 : 1874193 : type = "progbits";
7230 : :
7231 : 1886403 : format = ",@%s";
7232 : : /* On platforms that use "@" as the assembly comment character,
7233 : : use "%" instead. */
7234 : 1886403 : if (strcmp (ASM_COMMENT_START, "@") == 0)
7235 : : format = ",%%%s";
7236 : 1886403 : fprintf (asm_out_file, format, type);
7237 : :
7238 : 1886403 : if (flags & SECTION_ENTSIZE)
7239 : 218207 : fprintf (asm_out_file, ",%d", flags & SECTION_ENTSIZE);
7240 : 1886403 : if (flags & SECTION_LINK_ORDER)
7241 : : {
7242 : : /* For now, only section "__patchable_function_entries"
7243 : : adopts flag SECTION_LINK_ORDER, internal label LPFE*
7244 : : was emitted in default_print_patchable_function_entry,
7245 : : just place it here for linked_to section. */
7246 : 53 : gcc_assert (!strcmp (name, "__patchable_function_entries"));
7247 : 53 : fprintf (asm_out_file, ",");
7248 : 53 : char buf[256];
7249 : 53 : ASM_GENERATE_INTERNAL_LABEL (buf, "LPFE",
7250 : : current_function_funcdef_no);
7251 : 53 : assemble_name_raw (asm_out_file, buf);
7252 : : }
7253 : 1886403 : if (HAVE_COMDAT_GROUP && (flags & SECTION_LINKONCE))
7254 : : {
7255 : 536096 : if (TREE_CODE (decl) == IDENTIFIER_NODE)
7256 : 1564 : fprintf (asm_out_file, ",%s,comdat", IDENTIFIER_POINTER (decl));
7257 : : else
7258 : 1069064 : fprintf (asm_out_file, ",%s,comdat",
7259 : 534532 : IDENTIFIER_POINTER (DECL_COMDAT_GROUP (decl)));
7260 : : }
7261 : : }
7262 : :
7263 : 3125838 : putc ('\n', asm_out_file);
7264 : : }
7265 : :
7266 : : void
7267 : 0 : default_coff_asm_named_section (const char *name, unsigned int flags,
7268 : : tree decl ATTRIBUTE_UNUSED)
7269 : : {
7270 : 0 : char flagchars[8], *f = flagchars;
7271 : :
7272 : 0 : if (flags & SECTION_WRITE)
7273 : 0 : *f++ = 'w';
7274 : 0 : if (flags & SECTION_CODE)
7275 : 0 : *f++ = 'x';
7276 : 0 : *f = '\0';
7277 : :
7278 : 0 : fprintf (asm_out_file, "\t.section\t%s,\"%s\"\n", name, flagchars);
7279 : 0 : }
7280 : :
7281 : : void
7282 : 0 : default_pe_asm_named_section (const char *name, unsigned int flags,
7283 : : tree decl)
7284 : : {
7285 : 0 : default_coff_asm_named_section (name, flags, decl);
7286 : :
7287 : 0 : if (flags & SECTION_LINKONCE)
7288 : : {
7289 : : /* Functions may have been compiled at various levels of
7290 : : optimization so we can't use `same_size' here.
7291 : : Instead, have the linker pick one. */
7292 : 0 : fprintf (asm_out_file, "\t.linkonce %s\n",
7293 : 0 : (flags & SECTION_CODE ? "discard" : "same_size"));
7294 : : }
7295 : 0 : }
7296 : :
7297 : : /* The lame default section selector. */
7298 : :
7299 : : section *
7300 : 0 : default_select_section (tree decl, int reloc,
7301 : : unsigned HOST_WIDE_INT align ATTRIBUTE_UNUSED)
7302 : : {
7303 : 0 : if (DECL_P (decl))
7304 : : {
7305 : 0 : if (decl_readonly_section (decl, reloc))
7306 : 0 : return readonly_data_section;
7307 : : }
7308 : 0 : else if (TREE_CODE (decl) == CONSTRUCTOR)
7309 : : {
7310 : 0 : if (! ((flag_pic && reloc)
7311 : 0 : || !TREE_READONLY (decl)
7312 : 0 : || !TREE_CONSTANT (decl)))
7313 : 0 : return readonly_data_section;
7314 : : }
7315 : 0 : else if (TREE_CODE (decl) == STRING_CST)
7316 : 0 : return readonly_data_section;
7317 : 0 : else if (! (flag_pic && reloc))
7318 : 0 : return readonly_data_section;
7319 : :
7320 : 0 : return data_section;
7321 : : }
7322 : :
7323 : : enum section_category
7324 : 6360611 : categorize_decl_for_section (const_tree decl, int reloc)
7325 : : {
7326 : 6360611 : enum section_category ret;
7327 : :
7328 : 6360611 : if (TREE_CODE (decl) == FUNCTION_DECL)
7329 : : return SECCAT_TEXT;
7330 : 6133539 : else if (TREE_CODE (decl) == STRING_CST)
7331 : : {
7332 : 1230899 : if ((flag_sanitize & SANITIZE_ADDRESS)
7333 : 1230899 : && asan_protect_global (CONST_CAST_TREE (decl)))
7334 : : /* or !flag_merge_constants */
7335 : : return SECCAT_RODATA;
7336 : : else
7337 : 1229337 : return SECCAT_RODATA_MERGE_STR;
7338 : : }
7339 : 4902640 : else if (VAR_P (decl))
7340 : : {
7341 : 4872349 : tree d = CONST_CAST_TREE (decl);
7342 : 4872349 : if (bss_initializer_p (decl))
7343 : : ret = SECCAT_BSS;
7344 : 4839752 : else if (! TREE_READONLY (decl)
7345 : 4839752 : || (DECL_INITIAL (decl)
7346 : 4529195 : && ! TREE_CONSTANT (DECL_INITIAL (decl))))
7347 : : {
7348 : : /* Here the reloc_rw_mask is not testing whether the section should
7349 : : be read-only or not, but whether the dynamic link will have to
7350 : : do something. If so, we wish to segregate the data in order to
7351 : : minimize cache misses inside the dynamic linker. */
7352 : 310480 : if (reloc & targetm.asm_out.reloc_rw_mask ())
7353 : 6005 : ret = reloc == 1 ? SECCAT_DATA_REL_LOCAL : SECCAT_DATA_REL;
7354 : : else
7355 : : ret = SECCAT_DATA;
7356 : : }
7357 : 4529272 : else if (reloc & targetm.asm_out.reloc_rw_mask ())
7358 : 917162 : ret = reloc == 1 ? SECCAT_DATA_REL_RO_LOCAL : SECCAT_DATA_REL_RO;
7359 : 719743 : else if (reloc || (flag_merge_constants < 2 && !DECL_MERGEABLE (decl))
7360 : 3613710 : || ((flag_sanitize & SANITIZE_ADDRESS)
7361 : : /* PR 81697: for architectures that use section anchors we
7362 : : need to ignore DECL_RTL_SET_P (decl) for string constants
7363 : : inside this asan_protect_global call because otherwise
7364 : : we'll wrongly put them into SECCAT_RODATA_MERGE_CONST
7365 : : section, set DECL_RTL (decl) later on and add DECL to
7366 : : protected globals via successive asan_protect_global
7367 : : calls. In this scenario we'll end up with wrong
7368 : : alignment of these strings at runtime and possible ASan
7369 : : false positives. */
7370 : 91 : && asan_protect_global (d, use_object_blocks_p ()
7371 : 91 : && use_blocks_for_decl_p (d))))
7372 : : /* C and C++ don't allow different variables to share the same
7373 : : location. -fmerge-all-constants allows even that (at the
7374 : : expense of not conforming). */
7375 : : ret = SECCAT_RODATA;
7376 : 1521 : else if (DECL_INITIAL (decl)
7377 : 1521 : && TREE_CODE (DECL_INITIAL (decl)) == STRING_CST)
7378 : : ret = SECCAT_RODATA_MERGE_STR_INIT;
7379 : : else
7380 : : ret = SECCAT_RODATA_MERGE_CONST;
7381 : : }
7382 : 30291 : else if (TREE_CODE (decl) == CONSTRUCTOR)
7383 : : {
7384 : 1323 : if ((reloc & targetm.asm_out.reloc_rw_mask ())
7385 : 1323 : || ! TREE_CONSTANT (decl))
7386 : : ret = SECCAT_DATA;
7387 : : else
7388 : : ret = SECCAT_RODATA;
7389 : : }
7390 : : else
7391 : : ret = SECCAT_RODATA;
7392 : :
7393 : : /* There are no read-only thread-local sections. */
7394 : 4902640 : if (VAR_P (decl) && DECL_THREAD_LOCAL_P (decl))
7395 : : {
7396 : : /* Note that this would be *just* SECCAT_BSS, except that there's
7397 : : no concept of a read-only thread-local-data section. */
7398 : 6602 : if (ret == SECCAT_BSS
7399 : 634 : || DECL_INITIAL (decl) == NULL
7400 : 7228 : || (flag_zero_initialized_in_bss
7401 : 626 : && initializer_zerop (DECL_INITIAL (decl))))
7402 : : ret = SECCAT_TBSS;
7403 : : else
7404 : : ret = SECCAT_TDATA;
7405 : : }
7406 : :
7407 : : /* If the target uses small data sections, select it. */
7408 : 4896038 : else if (targetm.in_small_data_p (decl))
7409 : : {
7410 : 0 : if (ret == SECCAT_BSS)
7411 : : ret = SECCAT_SBSS;
7412 : 0 : else if (targetm.have_srodata_section && ret == SECCAT_RODATA)
7413 : : ret = SECCAT_SRODATA;
7414 : : else
7415 : 0 : ret = SECCAT_SDATA;
7416 : : }
7417 : :
7418 : : return ret;
7419 : : }
7420 : :
7421 : : static bool
7422 : 2970815 : decl_readonly_section_1 (enum section_category category)
7423 : : {
7424 : 2950480 : switch (category)
7425 : : {
7426 : : case SECCAT_RODATA:
7427 : : case SECCAT_RODATA_MERGE_STR:
7428 : : case SECCAT_RODATA_MERGE_STR_INIT:
7429 : : case SECCAT_RODATA_MERGE_CONST:
7430 : : case SECCAT_SRODATA:
7431 : : return true;
7432 : 635338 : default:
7433 : 635338 : return false;
7434 : : }
7435 : : }
7436 : :
7437 : : bool
7438 : 20335 : decl_readonly_section (const_tree decl, int reloc)
7439 : : {
7440 : 20335 : return decl_readonly_section_1 (categorize_decl_for_section (decl, reloc));
7441 : : }
7442 : :
7443 : : /* Select a section based on the above categorization. */
7444 : :
7445 : : section *
7446 : 1617834 : default_elf_select_section (tree decl, int reloc,
7447 : : unsigned HOST_WIDE_INT align)
7448 : : {
7449 : 1617834 : const char *sname;
7450 : :
7451 : 1617834 : switch (categorize_decl_for_section (decl, reloc))
7452 : : {
7453 : 0 : case SECCAT_TEXT:
7454 : : /* We're not supposed to be called on FUNCTION_DECLs. */
7455 : 0 : gcc_unreachable ();
7456 : 127283 : case SECCAT_RODATA:
7457 : 127283 : return readonly_data_section;
7458 : 1211406 : case SECCAT_RODATA_MERGE_STR:
7459 : 1211406 : return mergeable_string_section (decl, align, 0);
7460 : 14 : case SECCAT_RODATA_MERGE_STR_INIT:
7461 : 14 : return mergeable_string_section (DECL_INITIAL (decl), align, 0);
7462 : 245 : case SECCAT_RODATA_MERGE_CONST:
7463 : 245 : return mergeable_constant_section (DECL_MODE (decl), align, 0);
7464 : : case SECCAT_SRODATA:
7465 : : sname = ".sdata2";
7466 : : break;
7467 : 274314 : case SECCAT_DATA:
7468 : 274314 : if (DECL_P (decl) && DECL_PERSISTENT_P (decl))
7469 : : {
7470 : : sname = ".persistent";
7471 : : break;
7472 : : }
7473 : 274314 : return data_section;
7474 : 125 : case SECCAT_DATA_REL:
7475 : 125 : sname = ".data.rel";
7476 : 125 : break;
7477 : 970 : case SECCAT_DATA_REL_LOCAL:
7478 : 970 : sname = ".data.rel.local";
7479 : 970 : break;
7480 : 99 : case SECCAT_DATA_REL_RO:
7481 : 99 : sname = ".data.rel.ro";
7482 : 99 : break;
7483 : 130 : case SECCAT_DATA_REL_RO_LOCAL:
7484 : 130 : sname = ".data.rel.ro.local";
7485 : 130 : break;
7486 : 0 : case SECCAT_SDATA:
7487 : 0 : sname = ".sdata";
7488 : 0 : break;
7489 : 307 : case SECCAT_TDATA:
7490 : 307 : sname = ".tdata";
7491 : 307 : break;
7492 : 3 : case SECCAT_BSS:
7493 : 3 : if (DECL_P (decl) && DECL_NOINIT_P (decl))
7494 : : {
7495 : : sname = ".noinit";
7496 : : break;
7497 : : }
7498 : 3 : if (bss_section)
7499 : : return bss_section;
7500 : : sname = ".bss";
7501 : : break;
7502 : 0 : case SECCAT_SBSS:
7503 : 0 : sname = ".sbss";
7504 : 0 : break;
7505 : 2938 : case SECCAT_TBSS:
7506 : 2938 : sname = ".tbss";
7507 : 2938 : break;
7508 : 0 : default:
7509 : 0 : gcc_unreachable ();
7510 : : }
7511 : :
7512 : 4569 : return get_named_section (decl, sname, reloc);
7513 : : }
7514 : :
7515 : : /* Construct a unique section name based on the decl name and the
7516 : : categorization performed above. */
7517 : :
7518 : : void
7519 : 1771870 : default_unique_section (tree decl, int reloc)
7520 : : {
7521 : : /* We only need to use .gnu.linkonce if we don't have COMDAT groups. */
7522 : 1771870 : bool one_only = DECL_ONE_ONLY (decl) && !HAVE_COMDAT_GROUP;
7523 : 1771870 : const char *prefix, *name, *linkonce;
7524 : 1771870 : char *string;
7525 : 1771870 : tree id;
7526 : :
7527 : 1771870 : switch (categorize_decl_for_section (decl, reloc))
7528 : : {
7529 : : case SECCAT_TEXT:
7530 : : prefix = one_only ? ".t" : ".text";
7531 : : break;
7532 : 1198799 : case SECCAT_RODATA:
7533 : 1198799 : case SECCAT_RODATA_MERGE_STR:
7534 : 1198799 : case SECCAT_RODATA_MERGE_STR_INIT:
7535 : 1198799 : case SECCAT_RODATA_MERGE_CONST:
7536 : 1198799 : prefix = one_only ? ".r" : ".rodata";
7537 : 1198799 : break;
7538 : 0 : case SECCAT_SRODATA:
7539 : 0 : prefix = one_only ? ".s2" : ".sdata2";
7540 : 0 : break;
7541 : 9443 : case SECCAT_DATA:
7542 : 9443 : prefix = one_only ? ".d" : ".data";
7543 : 9443 : if (DECL_P (decl) && DECL_PERSISTENT_P (decl))
7544 : : {
7545 : : prefix = one_only ? ".p" : ".persistent";
7546 : : break;
7547 : : }
7548 : : break;
7549 : 1137 : case SECCAT_DATA_REL:
7550 : 1137 : prefix = one_only ? ".d.rel" : ".data.rel";
7551 : 1137 : break;
7552 : 799 : case SECCAT_DATA_REL_LOCAL:
7553 : 799 : prefix = one_only ? ".d.rel.local" : ".data.rel.local";
7554 : 799 : break;
7555 : 155668 : case SECCAT_DATA_REL_RO:
7556 : 155668 : prefix = one_only ? ".d.rel.ro" : ".data.rel.ro";
7557 : 155668 : break;
7558 : 167269 : case SECCAT_DATA_REL_RO_LOCAL:
7559 : 167269 : prefix = one_only ? ".d.rel.ro.local" : ".data.rel.ro.local";
7560 : 167269 : break;
7561 : 0 : case SECCAT_SDATA:
7562 : 0 : prefix = one_only ? ".s" : ".sdata";
7563 : 0 : break;
7564 : 11631 : case SECCAT_BSS:
7565 : 11631 : if (DECL_P (decl) && DECL_NOINIT_P (decl))
7566 : : {
7567 : : prefix = one_only ? ".n" : ".noinit";
7568 : : break;
7569 : : }
7570 : : prefix = one_only ? ".b" : ".bss";
7571 : : break;
7572 : 0 : case SECCAT_SBSS:
7573 : 0 : prefix = one_only ? ".sb" : ".sbss";
7574 : 0 : break;
7575 : 6 : case SECCAT_TDATA:
7576 : 6 : prefix = one_only ? ".td" : ".tdata";
7577 : 6 : break;
7578 : 47 : case SECCAT_TBSS:
7579 : 47 : prefix = one_only ? ".tb" : ".tbss";
7580 : 47 : break;
7581 : 0 : default:
7582 : 0 : gcc_unreachable ();
7583 : : }
7584 : :
7585 : 1771870 : id = DECL_ASSEMBLER_NAME (decl);
7586 : 1771870 : ultimate_transparent_alias_target (&id);
7587 : 1771870 : name = IDENTIFIER_POINTER (id);
7588 : 1771870 : name = targetm.strip_name_encoding (name);
7589 : :
7590 : : /* If we're using one_only, then there needs to be a .gnu.linkonce
7591 : : prefix to the section name. */
7592 : 1771870 : linkonce = one_only ? ".gnu.linkonce" : "";
7593 : :
7594 : 1771870 : string = ACONCAT ((linkonce, prefix, ".", name, NULL));
7595 : :
7596 : 1771870 : set_decl_section_name (decl, string);
7597 : 1771870 : }
7598 : :
7599 : : /* Subroutine of compute_reloc_for_rtx for leaf rtxes. */
7600 : :
7601 : : static int
7602 : 42160 : compute_reloc_for_rtx_1 (const_rtx x)
7603 : : {
7604 : 42160 : switch (GET_CODE (x))
7605 : : {
7606 : 31343 : case SYMBOL_REF:
7607 : 31343 : return SYMBOL_REF_LOCAL_P (x) ? 1 : 2;
7608 : : case LABEL_REF:
7609 : : return 1;
7610 : : default:
7611 : : return 0;
7612 : : }
7613 : : }
7614 : :
7615 : : /* Like compute_reloc_for_constant, except for an RTX. The return value
7616 : : is a mask for which bit 1 indicates a global relocation, and bit 0
7617 : : indicates a local relocation. Used by default_select_rtx_section
7618 : : and default_elf_select_rtx_section. */
7619 : :
7620 : : static int
7621 : 258665 : compute_reloc_for_rtx (const_rtx x)
7622 : : {
7623 : 258665 : switch (GET_CODE (x))
7624 : : {
7625 : 27776 : case SYMBOL_REF:
7626 : 27776 : case LABEL_REF:
7627 : 27776 : return compute_reloc_for_rtx_1 (x);
7628 : :
7629 : 3596 : case CONST:
7630 : 3596 : {
7631 : 3596 : int reloc = 0;
7632 : 3596 : subrtx_iterator::array_type array;
7633 : 17980 : FOR_EACH_SUBRTX (iter, array, x, ALL)
7634 : 14384 : reloc |= compute_reloc_for_rtx_1 (*iter);
7635 : 3596 : return reloc;
7636 : 3596 : }
7637 : :
7638 : : default:
7639 : : return 0;
7640 : : }
7641 : : }
7642 : :
7643 : : section *
7644 : 0 : default_select_rtx_section (machine_mode mode ATTRIBUTE_UNUSED,
7645 : : rtx x,
7646 : : unsigned HOST_WIDE_INT align ATTRIBUTE_UNUSED)
7647 : : {
7648 : 0 : if (compute_reloc_for_rtx (x) & targetm.asm_out.reloc_rw_mask ())
7649 : 0 : return data_section;
7650 : : else
7651 : 0 : return readonly_data_section;
7652 : : }
7653 : :
7654 : : section *
7655 : 258665 : default_elf_select_rtx_section (machine_mode mode, rtx x,
7656 : : unsigned HOST_WIDE_INT align)
7657 : : {
7658 : 258665 : int reloc = compute_reloc_for_rtx (x);
7659 : 258665 : tree decl = nullptr;
7660 : 258665 : const char *prefix = nullptr;
7661 : 258665 : int flags = 0;
7662 : :
7663 : : /* If it is a private COMDAT function symbol reference, call
7664 : : function_rodata_section for the read-only or relocated read-only
7665 : : data section associated with function DECL so that the COMDAT
7666 : : section will be used for the private COMDAT function symbol. */
7667 : 258665 : if (HAVE_COMDAT_GROUP)
7668 : : {
7669 : 258665 : if (GET_CODE (x) == CONST
7670 : 3596 : && GET_CODE (XEXP (x, 0)) == PLUS
7671 : 3596 : && CONST_INT_P (XEXP (XEXP (x, 0), 1)))
7672 : 3596 : x = XEXP (XEXP (x, 0), 0);
7673 : :
7674 : 258665 : if (GET_CODE (x) == SYMBOL_REF)
7675 : : {
7676 : 31343 : decl = SYMBOL_REF_DECL (x);
7677 : 31343 : if (decl
7678 : 31343 : && (TREE_CODE (decl) != FUNCTION_DECL
7679 : 7421 : || !DECL_COMDAT_GROUP (decl)
7680 : 5349 : || TREE_PUBLIC (decl)))
7681 : : decl = nullptr;
7682 : : }
7683 : : }
7684 : :
7685 : : /* ??? Handle small data here somehow. */
7686 : :
7687 : 258665 : if (reloc & targetm.asm_out.reloc_rw_mask ())
7688 : : {
7689 : 251 : if (decl)
7690 : : {
7691 : 0 : prefix = reloc == 1 ? ".data.rel.ro.local" : ".data.rel.ro";
7692 : : flags = SECTION_WRITE | SECTION_RELRO;
7693 : : }
7694 : 251 : else if (reloc == 1)
7695 : 245 : return get_named_section (NULL, ".data.rel.ro.local", 1);
7696 : : else
7697 : 6 : return get_named_section (NULL, ".data.rel.ro", 3);
7698 : : }
7699 : :
7700 : 258414 : if (decl)
7701 : : {
7702 : 6 : const char *comdat = IDENTIFIER_POINTER (DECL_COMDAT_GROUP (decl));
7703 : 6 : if (!prefix)
7704 : 6 : prefix = ".rodata";
7705 : 6 : size_t prefix_len = strlen (prefix);
7706 : 6 : size_t comdat_len = strlen (comdat);
7707 : 6 : size_t len = prefix_len + sizeof (".pool.") + comdat_len;
7708 : 6 : char *name = XALLOCAVEC (char, len);
7709 : 6 : memcpy (name, prefix, prefix_len);
7710 : 6 : memcpy (name + prefix_len, ".pool.", sizeof (".pool.") - 1);
7711 : 6 : memcpy (name + prefix_len + sizeof (".pool.") - 1, comdat,
7712 : : comdat_len + 1);
7713 : 6 : return get_section (name, flags | SECTION_LINKONCE, decl);
7714 : : }
7715 : :
7716 : 258408 : return mergeable_constant_section (mode, align, 0);
7717 : : }
7718 : :
7719 : : /* Set the generally applicable flags on the SYMBOL_REF for EXP. */
7720 : :
7721 : : void
7722 : 9648735 : default_encode_section_info (tree decl, rtx rtl, int first ATTRIBUTE_UNUSED)
7723 : : {
7724 : 9648735 : rtx symbol;
7725 : 9648735 : int flags;
7726 : :
7727 : : /* Careful not to prod global register variables. */
7728 : 9648735 : if (!MEM_P (rtl))
7729 : : return;
7730 : 9648735 : symbol = XEXP (rtl, 0);
7731 : 9648735 : if (GET_CODE (symbol) != SYMBOL_REF)
7732 : : return;
7733 : :
7734 : 9648735 : flags = SYMBOL_REF_FLAGS (symbol) & SYMBOL_FLAG_HAS_BLOCK_INFO;
7735 : 9648735 : if (TREE_CODE (decl) == FUNCTION_DECL)
7736 : 5223497 : flags |= SYMBOL_FLAG_FUNCTION;
7737 : 9648735 : if (targetm.binds_local_p (decl))
7738 : 5472487 : flags |= SYMBOL_FLAG_LOCAL;
7739 : 9648735 : if (VAR_P (decl) && DECL_THREAD_LOCAL_P (decl))
7740 : 3919 : flags |= DECL_TLS_MODEL (decl) << SYMBOL_FLAG_TLS_SHIFT;
7741 : 9644816 : else if (targetm.in_small_data_p (decl))
7742 : 0 : flags |= SYMBOL_FLAG_SMALL;
7743 : : /* ??? Why is DECL_EXTERNAL ever set for non-PUBLIC names? Without
7744 : : being PUBLIC, the thing *must* be defined in this translation unit.
7745 : : Prevent this buglet from being propagated into rtl code as well. */
7746 : 9648735 : if (DECL_P (decl) && DECL_EXTERNAL (decl) && TREE_PUBLIC (decl))
7747 : 4018920 : flags |= SYMBOL_FLAG_EXTERNAL;
7748 : :
7749 : 9648735 : SYMBOL_REF_FLAGS (symbol) = flags;
7750 : : }
7751 : :
7752 : : /* By default, we do nothing for encode_section_info, so we need not
7753 : : do anything but discard the '*' marker. */
7754 : :
7755 : : const char *
7756 : 350305079 : default_strip_name_encoding (const char *str)
7757 : : {
7758 : 350305079 : return str + (*str == '*');
7759 : : }
7760 : :
7761 : : #ifdef ASM_OUTPUT_DEF
7762 : : /* The default implementation of TARGET_ASM_OUTPUT_ANCHOR. Define the
7763 : : anchor relative to ".", the current section position. */
7764 : :
7765 : : void
7766 : 0 : default_asm_output_anchor (rtx symbol)
7767 : : {
7768 : 0 : gcc_checking_assert (TARGET_SUPPORTS_ALIASES);
7769 : :
7770 : 0 : char buffer[100];
7771 : :
7772 : 0 : sprintf (buffer, "*. + " HOST_WIDE_INT_PRINT_DEC,
7773 : : SYMBOL_REF_BLOCK_OFFSET (symbol));
7774 : 0 : ASM_OUTPUT_DEF (asm_out_file, XSTR (symbol, 0), buffer);
7775 : 0 : }
7776 : : #endif
7777 : :
7778 : : /* The default implementation of TARGET_USE_ANCHORS_FOR_SYMBOL_P. */
7779 : :
7780 : : bool
7781 : 0 : default_use_anchors_for_symbol_p (const_rtx symbol)
7782 : : {
7783 : 0 : tree decl;
7784 : 0 : section *sect = SYMBOL_REF_BLOCK (symbol)->sect;
7785 : :
7786 : : /* This function should only be called with non-zero SYMBOL_REF_BLOCK,
7787 : : furthermore get_block_for_section should not create object blocks
7788 : : for mergeable sections. */
7789 : 0 : gcc_checking_assert (sect && !(sect->common.flags & SECTION_MERGE));
7790 : :
7791 : : /* Don't use anchors for small data sections. The small data register
7792 : : acts as an anchor for such sections. */
7793 : 0 : if (sect->common.flags & SECTION_SMALL)
7794 : : return false;
7795 : :
7796 : 0 : decl = SYMBOL_REF_DECL (symbol);
7797 : 0 : if (decl && DECL_P (decl))
7798 : : {
7799 : : /* Don't use section anchors for decls that might be defined or
7800 : : usurped by other modules. */
7801 : 0 : if (TREE_PUBLIC (decl) && !decl_binds_to_current_def_p (decl))
7802 : : return false;
7803 : :
7804 : : /* Don't use section anchors for decls that will be placed in a
7805 : : small data section. */
7806 : : /* ??? Ideally, this check would be redundant with the SECTION_SMALL
7807 : : one above. The problem is that we only use SECTION_SMALL for
7808 : : sections that should be marked as small in the section directive. */
7809 : 0 : if (targetm.in_small_data_p (decl))
7810 : : return false;
7811 : :
7812 : : /* Don't use section anchors for decls that won't fit inside a single
7813 : : anchor range to reduce the amount of instructions required to refer
7814 : : to the entire declaration. */
7815 : 0 : if (DECL_SIZE_UNIT (decl) == NULL_TREE
7816 : 0 : || !tree_fits_uhwi_p (DECL_SIZE_UNIT (decl))
7817 : 0 : || (tree_to_uhwi (DECL_SIZE_UNIT (decl))
7818 : 0 : >= (unsigned HOST_WIDE_INT) targetm.max_anchor_offset))
7819 : : return false;
7820 : :
7821 : : }
7822 : : return true;
7823 : : }
7824 : :
7825 : : /* Return true when RESOLUTION indicate that symbol will be bound to the
7826 : : definition provided by current .o file. */
7827 : :
7828 : : static bool
7829 : 275672912 : resolution_to_local_definition_p (enum ld_plugin_symbol_resolution resolution)
7830 : : {
7831 : 275672912 : return (resolution == LDPR_PREVAILING_DEF
7832 : 275672912 : || resolution == LDPR_PREVAILING_DEF_IRONLY_EXP
7833 : 0 : || resolution == LDPR_PREVAILING_DEF_IRONLY);
7834 : : }
7835 : :
7836 : : /* Return true when RESOLUTION indicate that symbol will be bound locally
7837 : : within current executable or DSO. */
7838 : :
7839 : : static bool
7840 : 274769967 : resolution_local_p (enum ld_plugin_symbol_resolution resolution)
7841 : : {
7842 : 274769967 : return (resolution == LDPR_PREVAILING_DEF
7843 : 274769967 : || resolution == LDPR_PREVAILING_DEF_IRONLY
7844 : 274769967 : || resolution == LDPR_PREVAILING_DEF_IRONLY_EXP
7845 : : || resolution == LDPR_PREEMPTED_REG
7846 : 274769967 : || resolution == LDPR_PREEMPTED_IR
7847 : : || resolution == LDPR_RESOLVED_IR
7848 : 549539928 : || resolution == LDPR_RESOLVED_EXEC);
7849 : : }
7850 : :
7851 : : /* COMMON_LOCAL_P is true means that the linker can guarantee that an
7852 : : uninitialized common symbol in the executable will still be defined
7853 : : (through COPY relocation) in the executable. */
7854 : :
7855 : : bool
7856 : 718973164 : default_binds_local_p_3 (const_tree exp, bool shlib, bool weak_dominate,
7857 : : bool extern_protected_data, bool common_local_p)
7858 : : {
7859 : : /* A non-decl is an entry in the constant pool. */
7860 : 718973164 : if (!DECL_P (exp))
7861 : : return true;
7862 : :
7863 : : /* Weakrefs may not bind locally, even though the weakref itself is always
7864 : : static and therefore local. Similarly, the resolver for ifunc functions
7865 : : might resolve to a non-local function.
7866 : : FIXME: We can resolve the weakref case more curefuly by looking at the
7867 : : weakref alias. */
7868 : 715509286 : if (lookup_attribute ("weakref", DECL_ATTRIBUTES (exp))
7869 : 715509286 : || (!targetm.ifunc_ref_local_ok ()
7870 : 53455085 : && TREE_CODE (exp) == FUNCTION_DECL
7871 : 20327536 : && cgraph_node::get (exp)
7872 : 19363586 : && cgraph_node::get (exp)->ifunc_resolver))
7873 : 7099 : return false;
7874 : :
7875 : : /* Static variables are always local. */
7876 : 715502187 : if (! TREE_PUBLIC (exp))
7877 : : return true;
7878 : :
7879 : : /* With resolution file in hand, take look into resolutions.
7880 : : We can't just return true for resolved_locally symbols,
7881 : : because dynamic linking might overwrite symbols
7882 : : in shared libraries. */
7883 : 573424174 : bool resolved_locally = false;
7884 : :
7885 : 573424174 : bool uninited_common = (DECL_COMMON (exp)
7886 : 573424174 : && (DECL_INITIAL (exp) == NULL
7887 : 236220 : || (!in_lto_p
7888 : 236220 : && DECL_INITIAL (exp) == error_mark_node)));
7889 : :
7890 : : /* A non-external variable is defined locally only if it isn't
7891 : : uninitialized COMMON variable or common_local_p is true. */
7892 : 573424174 : bool defined_locally = (!DECL_EXTERNAL (exp)
7893 : 573424174 : && (!uninited_common || common_local_p));
7894 : 573424174 : if (symtab_node *node = symtab_node::get (exp))
7895 : : {
7896 : 559381559 : if (node->in_other_partition)
7897 : 3638 : defined_locally = true;
7898 : 559381559 : if (node->can_be_discarded_p ())
7899 : : ;
7900 : 275230137 : else if (resolution_to_local_definition_p (node->resolution))
7901 : : defined_locally = resolved_locally = true;
7902 : 274769967 : else if (resolution_local_p (node->resolution))
7903 : 573424174 : resolved_locally = true;
7904 : : }
7905 : 573424174 : if (defined_locally && weak_dominate && !shlib)
7906 : 573424174 : resolved_locally = true;
7907 : :
7908 : : /* Undefined weak symbols are never defined locally. */
7909 : 573424174 : if (DECL_WEAK (exp) && !defined_locally)
7910 : : return false;
7911 : :
7912 : : /* A symbol is local if the user has said explicitly that it will be,
7913 : : or if we have a definition for the symbol. We cannot infer visibility
7914 : : for undefined symbols. */
7915 : 573386579 : if (DECL_VISIBILITY (exp) != VISIBILITY_DEFAULT
7916 : 9668423 : && (TREE_CODE (exp) == FUNCTION_DECL
7917 : 1043696 : || !extern_protected_data
7918 : 1043648 : || DECL_VISIBILITY (exp) != VISIBILITY_PROTECTED)
7919 : 583054960 : && (DECL_VISIBILITY_SPECIFIED (exp) || defined_locally))
7920 : : return true;
7921 : :
7922 : : /* If PIC, then assume that any global name can be overridden by
7923 : : symbols resolved from other modules. */
7924 : 569123471 : if (shlib)
7925 : : return false;
7926 : :
7927 : : /* Variables defined outside this object might not be local. */
7928 : 474206281 : if (DECL_EXTERNAL (exp) && !resolved_locally)
7929 : : return false;
7930 : :
7931 : : /* Non-dominant weak symbols are not defined locally. */
7932 : 281939404 : if (DECL_WEAK (exp) && !resolved_locally)
7933 : : return false;
7934 : :
7935 : : /* Uninitialized COMMON variable may be unified with symbols
7936 : : resolved from other modules. */
7937 : 281939404 : if (uninited_common && !resolved_locally)
7938 : : return false;
7939 : :
7940 : : /* Otherwise we're left with initialized (or non-common) global data
7941 : : which is of necessity defined locally. */
7942 : : return true;
7943 : : }
7944 : :
7945 : : /* Assume ELF-ish defaults, since that's pretty much the most liberal
7946 : : wrt cross-module name binding. */
7947 : :
7948 : : bool
7949 : 0 : default_binds_local_p (const_tree exp)
7950 : : {
7951 : 0 : return default_binds_local_p_3 (exp, flag_shlib != 0, true, false, false);
7952 : : }
7953 : :
7954 : : /* Similar to default_binds_local_p, but common symbol may be local and
7955 : : extern protected data is non-local. */
7956 : :
7957 : : bool
7958 : 0 : default_binds_local_p_2 (const_tree exp)
7959 : : {
7960 : 0 : return default_binds_local_p_3 (exp, flag_shlib != 0, true, true,
7961 : 0 : !flag_pic);
7962 : : }
7963 : :
7964 : : bool
7965 : 0 : default_binds_local_p_1 (const_tree exp, int shlib)
7966 : : {
7967 : 0 : return default_binds_local_p_3 (exp, shlib != 0, false, false, false);
7968 : : }
7969 : :
7970 : : /* Return true when references to DECL must bind to current definition in
7971 : : final executable.
7972 : :
7973 : : The condition is usually equivalent to whether the function binds to the
7974 : : current module (shared library or executable), that is to binds_local_p.
7975 : : We use this fact to avoid need for another target hook and implement
7976 : : the logic using binds_local_p and just special cases where
7977 : : decl_binds_to_current_def_p is stronger than binds_local_p. In particular
7978 : : the weak definitions (that can be overwritten at linktime by other
7979 : : definition from different object file) and when resolution info is available
7980 : : we simply use the knowledge passed to us by linker plugin. */
7981 : : bool
7982 : 697290568 : decl_binds_to_current_def_p (const_tree decl)
7983 : : {
7984 : 697290568 : gcc_assert (DECL_P (decl));
7985 : 697290568 : if (!targetm.binds_local_p (decl))
7986 : : return false;
7987 : 418556036 : if (!TREE_PUBLIC (decl))
7988 : : return true;
7989 : :
7990 : : /* When resolution is available, just use it. */
7991 : 281018740 : if (symtab_node *node = symtab_node::get (decl))
7992 : : {
7993 : 281018723 : if (node->resolution != LDPR_UNKNOWN
7994 : 281018723 : && !node->can_be_discarded_p ())
7995 : 442775 : return resolution_to_local_definition_p (node->resolution);
7996 : : }
7997 : :
7998 : : /* Otherwise we have to assume the worst for DECL_WEAK (hidden weaks
7999 : : binds locally but still can be overwritten), DECL_COMMON (can be merged
8000 : : with a non-common definition somewhere in the same module) or
8001 : : DECL_EXTERNAL.
8002 : : This rely on fact that binds_local_p behave as decl_replaceable_p
8003 : : for all other declaration types. */
8004 : 280575965 : if (DECL_WEAK (decl))
8005 : : return false;
8006 : 210658656 : if (DECL_COMDAT_GROUP (decl))
8007 : : return false;
8008 : 210655401 : if (DECL_COMMON (decl)
8009 : 210655401 : && (DECL_INITIAL (decl) == NULL
8010 : 6 : || (!in_lto_p && DECL_INITIAL (decl) == error_mark_node)))
8011 : : return false;
8012 : 209819689 : if (DECL_EXTERNAL (decl))
8013 : : return false;
8014 : : return true;
8015 : : }
8016 : :
8017 : : /* A replaceable function or variable is one which may be replaced
8018 : : at link-time with an entirely different definition, provided that the
8019 : : replacement has the same type. For example, functions declared
8020 : : with __attribute__((weak)) on most systems are replaceable.
8021 : : If SEMANTIC_INTERPOSITION_P is false allow interposition only on
8022 : : symbols explicitly declared weak.
8023 : :
8024 : : COMDAT functions are not replaceable, since all definitions of the
8025 : : function must be equivalent. It is important that COMDAT functions
8026 : : not be treated as replaceable so that use of C++ template
8027 : : instantiations is not penalized. */
8028 : :
8029 : : bool
8030 : 210497601 : decl_replaceable_p (tree decl, bool semantic_interposition_p)
8031 : : {
8032 : 210497601 : gcc_assert (DECL_P (decl));
8033 : 210497601 : if (!TREE_PUBLIC (decl) || DECL_COMDAT (decl))
8034 : : return false;
8035 : 160615853 : if (!semantic_interposition_p
8036 : 160615853 : && !DECL_WEAK (decl))
8037 : : return false;
8038 : 160453061 : return !decl_binds_to_current_def_p (decl);
8039 : : }
8040 : :
8041 : : /* Default function to output code that will globalize a label. A
8042 : : target must define GLOBAL_ASM_OP or provide its own function to
8043 : : globalize a label. */
8044 : : #ifdef GLOBAL_ASM_OP
8045 : : void
8046 : 2122041 : default_globalize_label (FILE * stream, const char *name)
8047 : : {
8048 : 2122041 : fputs (GLOBAL_ASM_OP, stream);
8049 : 2122041 : assemble_name (stream, name);
8050 : 2122041 : putc ('\n', stream);
8051 : 2122041 : }
8052 : : #endif /* GLOBAL_ASM_OP */
8053 : :
8054 : : /* Default function to output code that will globalize a declaration. */
8055 : : void
8056 : 2092118 : default_globalize_decl_name (FILE * stream, tree decl)
8057 : : {
8058 : 2092118 : const char *name = XSTR (XEXP (DECL_RTL (decl), 0), 0);
8059 : 2092118 : targetm.asm_out.globalize_label (stream, name);
8060 : 2092118 : }
8061 : :
8062 : : /* Default function to output a label for unwind information. The
8063 : : default is to do nothing. A target that needs nonlocal labels for
8064 : : unwind information must provide its own function to do this. */
8065 : : void
8066 : 52 : default_emit_unwind_label (FILE * stream ATTRIBUTE_UNUSED,
8067 : : tree decl ATTRIBUTE_UNUSED,
8068 : : int for_eh ATTRIBUTE_UNUSED,
8069 : : int empty ATTRIBUTE_UNUSED)
8070 : : {
8071 : 52 : }
8072 : :
8073 : : /* Default function to output a label to divide up the exception table.
8074 : : The default is to do nothing. A target that needs/wants to divide
8075 : : up the table must provide it's own function to do this. */
8076 : : void
8077 : 71169 : default_emit_except_table_label (FILE * stream ATTRIBUTE_UNUSED)
8078 : : {
8079 : 71169 : }
8080 : :
8081 : : /* This is how to output an internal numbered label where PREFIX is
8082 : : the class of label and LABELNO is the number within the class. */
8083 : :
8084 : : void
8085 : 4348 : default_generate_internal_label (char *buf, const char *prefix,
8086 : : unsigned long labelno)
8087 : : {
8088 : 4348 : ASM_GENERATE_INTERNAL_LABEL (buf, prefix, labelno);
8089 : 4348 : }
8090 : :
8091 : : /* This is how to output an internal numbered label where PREFIX is
8092 : : the class of label and LABELNO is the number within the class. */
8093 : :
8094 : : void
8095 : 64930354 : default_internal_label (FILE *stream, const char *prefix,
8096 : : unsigned long labelno)
8097 : : {
8098 : 64930354 : char *const buf = (char *) alloca (40 + strlen (prefix));
8099 : 64930354 : ASM_GENERATE_INTERNAL_LABEL (buf, prefix, labelno);
8100 : 64930354 : ASM_OUTPUT_INTERNAL_LABEL (stream, buf);
8101 : 64930354 : }
8102 : :
8103 : :
8104 : : /* The default implementation of ASM_DECLARE_CONSTANT_NAME. */
8105 : :
8106 : : void
8107 : 1243232 : default_asm_declare_constant_name (FILE *file, const char *name,
8108 : : const_tree exp ATTRIBUTE_UNUSED,
8109 : : HOST_WIDE_INT size ATTRIBUTE_UNUSED)
8110 : : {
8111 : 1243232 : assemble_label (file, name);
8112 : 1243232 : }
8113 : :
8114 : : /* This is the default behavior at the beginning of a file. It's
8115 : : controlled by two other target-hook toggles. */
8116 : : void
8117 : 264848 : default_file_start (void)
8118 : : {
8119 : 264848 : if (targetm.asm_file_start_app_off
8120 : 0 : && !(flag_verbose_asm || flag_debug_asm || flag_dump_rtl_in_asm))
8121 : 0 : fputs (ASM_APP_OFF, asm_out_file);
8122 : :
8123 : 264848 : if (targetm.asm_file_start_file_directive)
8124 : : {
8125 : : /* LTO produced units have no meaningful main_input_filename. */
8126 : 264848 : if (in_lto_p)
8127 : 13383 : output_file_directive (asm_out_file, "<artificial>");
8128 : : else
8129 : 251465 : output_file_directive (asm_out_file, main_input_filename);
8130 : : }
8131 : 264848 : }
8132 : :
8133 : : /* This is a generic routine suitable for use as TARGET_ASM_FILE_END
8134 : : which emits a special section directive used to indicate whether or
8135 : : not this object file needs an executable stack. This is primarily
8136 : : a GNU extension to ELF but could be used on other targets. */
8137 : :
8138 : : int trampolines_created;
8139 : :
8140 : : void
8141 : 237580 : file_end_indicate_exec_stack (void)
8142 : : {
8143 : 237580 : unsigned int flags = SECTION_DEBUG;
8144 : 237580 : if (trampolines_created)
8145 : 237 : flags |= SECTION_CODE;
8146 : :
8147 : 237580 : switch_to_section (get_section (".note.GNU-stack", flags, NULL));
8148 : 237580 : }
8149 : :
8150 : : /* Emit a special section directive to indicate that this object file
8151 : : was compiled with -fsplit-stack. This is used to let the linker
8152 : : detect calls between split-stack code and non-split-stack code, so
8153 : : that it can modify the split-stack code to allocate a sufficiently
8154 : : large stack. We emit another special section if there are any
8155 : : functions in this file which have the no_split_stack attribute, to
8156 : : prevent the linker from warning about being unable to convert the
8157 : : functions if they call non-split-stack code. */
8158 : :
8159 : : void
8160 : 4713 : file_end_indicate_split_stack (void)
8161 : : {
8162 : 4713 : if (flag_split_stack)
8163 : : {
8164 : 4713 : switch_to_section (get_section (".note.GNU-split-stack", SECTION_DEBUG,
8165 : : NULL));
8166 : 4713 : if (saw_no_split_stack)
8167 : 399 : switch_to_section (get_section (".note.GNU-no-split-stack",
8168 : : SECTION_DEBUG, NULL));
8169 : : }
8170 : 4713 : }
8171 : :
8172 : : /* Output DIRECTIVE (a C string) followed by a newline. This is used as
8173 : : a get_unnamed_section callback. */
8174 : :
8175 : : void
8176 : 1737488 : output_section_asm_op (const char *directive)
8177 : : {
8178 : 1737488 : fprintf (asm_out_file, "%s\n", directive);
8179 : 1737488 : }
8180 : :
8181 : : /* Emit assembly code to switch to section NEW_SECTION. Do nothing if
8182 : : the current section is NEW_SECTION. */
8183 : :
8184 : : void
8185 : 88149990 : switch_to_section (section *new_section, tree decl)
8186 : : {
8187 : 88149990 : bool retain_p;
8188 : 88149990 : if ((new_section->common.flags & SECTION_NAMED)
8189 : 61275075 : && decl != nullptr
8190 : 1809041 : && DECL_P (decl)
8191 : 89959031 : && ((retain_p = !!lookup_attribute ("retain",
8192 : 1809041 : DECL_ATTRIBUTES (decl)))
8193 : 1809041 : != !!(new_section->common.flags & SECTION_RETAIN)))
8194 : : {
8195 : : /* If the SECTION_RETAIN bit doesn't match, switch to a new
8196 : : section. */
8197 : 24 : tree used_decl, no_used_decl;
8198 : :
8199 : 24 : if (retain_p)
8200 : : {
8201 : 12 : new_section->common.flags |= SECTION_RETAIN;
8202 : 12 : used_decl = decl;
8203 : 12 : no_used_decl = new_section->named.decl;
8204 : : }
8205 : : else
8206 : : {
8207 : 12 : new_section->common.flags &= ~(SECTION_RETAIN
8208 : : | SECTION_DECLARED);
8209 : 12 : used_decl = new_section->named.decl;
8210 : 12 : no_used_decl = decl;
8211 : : }
8212 : 24 : if (no_used_decl != used_decl)
8213 : : {
8214 : 24 : warning (OPT_Wattributes,
8215 : : "%+qD without %<retain%> attribute and %qD with "
8216 : : "%<retain%> attribute are placed in a section with "
8217 : : "the same name", no_used_decl, used_decl);
8218 : 24 : inform (DECL_SOURCE_LOCATION (used_decl),
8219 : : "%qD was declared here", used_decl);
8220 : : }
8221 : : }
8222 : 88149966 : else if (in_section == new_section)
8223 : : return;
8224 : :
8225 : 5234199 : in_section = new_section;
8226 : :
8227 : 5234199 : switch (SECTION_STYLE (new_section))
8228 : : {
8229 : 3496711 : case SECTION_NAMED:
8230 : 3496711 : targetm.asm_out.named_section (new_section->named.name,
8231 : : new_section->named.common.flags,
8232 : : new_section->named.decl);
8233 : 3496711 : break;
8234 : :
8235 : 1737488 : case SECTION_UNNAMED:
8236 : 1737488 : new_section->unnamed.callback (new_section->unnamed.data);
8237 : 1737488 : break;
8238 : :
8239 : 0 : case SECTION_NOSWITCH:
8240 : 0 : gcc_unreachable ();
8241 : 5234199 : break;
8242 : : }
8243 : :
8244 : 5234199 : new_section->common.flags |= SECTION_DECLARED;
8245 : : }
8246 : :
8247 : : /* If block symbol SYMBOL has not yet been assigned an offset, place
8248 : : it at the end of its block. */
8249 : :
8250 : : void
8251 : 0 : place_block_symbol (rtx symbol)
8252 : : {
8253 : 0 : unsigned HOST_WIDE_INT size, mask, offset;
8254 : 0 : class constant_descriptor_rtx *desc;
8255 : 0 : unsigned int alignment;
8256 : 0 : struct object_block *block;
8257 : 0 : tree decl;
8258 : :
8259 : 0 : gcc_assert (SYMBOL_REF_BLOCK (symbol));
8260 : 0 : if (SYMBOL_REF_BLOCK_OFFSET (symbol) >= 0)
8261 : : return;
8262 : :
8263 : : /* Work out the symbol's size and alignment. */
8264 : 0 : if (CONSTANT_POOL_ADDRESS_P (symbol))
8265 : : {
8266 : 0 : desc = SYMBOL_REF_CONSTANT (symbol);
8267 : 0 : alignment = desc->align;
8268 : 0 : size = GET_MODE_SIZE (desc->mode);
8269 : : }
8270 : 0 : else if (TREE_CONSTANT_POOL_ADDRESS_P (symbol))
8271 : : {
8272 : 0 : decl = SYMBOL_REF_DECL (symbol);
8273 : 0 : gcc_checking_assert (DECL_IN_CONSTANT_POOL (decl));
8274 : 0 : alignment = DECL_ALIGN (decl);
8275 : 0 : size = get_constant_size (DECL_INITIAL (decl));
8276 : 0 : if ((flag_sanitize & SANITIZE_ADDRESS)
8277 : 0 : && TREE_CODE (DECL_INITIAL (decl)) == STRING_CST
8278 : 0 : && asan_protect_global (DECL_INITIAL (decl)))
8279 : : {
8280 : 0 : size += asan_red_zone_size (size);
8281 : 0 : alignment = MAX (alignment,
8282 : : ASAN_RED_ZONE_SIZE * BITS_PER_UNIT);
8283 : : }
8284 : : }
8285 : : else
8286 : : {
8287 : 0 : struct symtab_node *snode;
8288 : 0 : decl = SYMBOL_REF_DECL (symbol);
8289 : :
8290 : 0 : snode = symtab_node::get (decl);
8291 : 0 : if (snode->alias)
8292 : : {
8293 : 0 : rtx target = DECL_RTL (snode->ultimate_alias_target ()->decl);
8294 : :
8295 : 0 : gcc_assert (MEM_P (target)
8296 : : && GET_CODE (XEXP (target, 0)) == SYMBOL_REF
8297 : : && SYMBOL_REF_HAS_BLOCK_INFO_P (XEXP (target, 0)));
8298 : 0 : target = XEXP (target, 0);
8299 : 0 : place_block_symbol (target);
8300 : 0 : SYMBOL_REF_BLOCK_OFFSET (symbol) = SYMBOL_REF_BLOCK_OFFSET (target);
8301 : 0 : return;
8302 : : }
8303 : 0 : alignment = get_variable_align (decl);
8304 : 0 : size = tree_to_uhwi (DECL_SIZE_UNIT (decl));
8305 : 0 : if ((flag_sanitize & SANITIZE_ADDRESS)
8306 : 0 : && asan_protect_global (decl))
8307 : : {
8308 : 0 : size += asan_red_zone_size (size);
8309 : 0 : alignment = MAX (alignment,
8310 : : ASAN_RED_ZONE_SIZE * BITS_PER_UNIT);
8311 : : }
8312 : : }
8313 : :
8314 : : /* Calculate the object's offset from the start of the block. */
8315 : 0 : block = SYMBOL_REF_BLOCK (symbol);
8316 : 0 : mask = alignment / BITS_PER_UNIT - 1;
8317 : 0 : offset = (block->size + mask) & ~mask;
8318 : 0 : SYMBOL_REF_BLOCK_OFFSET (symbol) = offset;
8319 : :
8320 : : /* Record the block's new alignment and size. */
8321 : 0 : block->alignment = MAX (block->alignment, alignment);
8322 : 0 : block->size = offset + size;
8323 : :
8324 : 0 : vec_safe_push (block->objects, symbol);
8325 : : }
8326 : :
8327 : : /* Return the anchor that should be used to address byte offset OFFSET
8328 : : from the first object in BLOCK. MODEL is the TLS model used
8329 : : to access it. */
8330 : :
8331 : : rtx
8332 : 0 : get_section_anchor (struct object_block *block, HOST_WIDE_INT offset,
8333 : : enum tls_model model)
8334 : : {
8335 : 0 : char label[100];
8336 : 0 : unsigned int begin, middle, end;
8337 : 0 : unsigned HOST_WIDE_INT min_offset, max_offset, range, bias, delta;
8338 : 0 : rtx anchor;
8339 : :
8340 : : /* Work out the anchor's offset. Use an offset of 0 for the first
8341 : : anchor so that we don't pessimize the case where we take the address
8342 : : of a variable at the beginning of the block. This is particularly
8343 : : useful when a block has only one variable assigned to it.
8344 : :
8345 : : We try to place anchors RANGE bytes apart, so there can then be
8346 : : anchors at +/-RANGE, +/-2 * RANGE, and so on, up to the limits of
8347 : : a ptr_mode offset. With some target settings, the lowest such
8348 : : anchor might be out of range for the lowest ptr_mode offset;
8349 : : likewise the highest anchor for the highest offset. Use anchors
8350 : : at the extreme ends of the ptr_mode range in such cases.
8351 : :
8352 : : All arithmetic uses unsigned integers in order to avoid
8353 : : signed overflow. */
8354 : 0 : max_offset = (unsigned HOST_WIDE_INT) targetm.max_anchor_offset;
8355 : 0 : min_offset = (unsigned HOST_WIDE_INT) targetm.min_anchor_offset;
8356 : 0 : range = max_offset - min_offset + 1;
8357 : 0 : if (range == 0)
8358 : : offset = 0;
8359 : : else
8360 : : {
8361 : 0 : bias = HOST_WIDE_INT_1U << (GET_MODE_BITSIZE (ptr_mode) - 1);
8362 : 0 : if (offset < 0)
8363 : : {
8364 : 0 : delta = -(unsigned HOST_WIDE_INT) offset + max_offset;
8365 : 0 : delta -= delta % range;
8366 : 0 : if (delta > bias)
8367 : : delta = bias;
8368 : 0 : offset = (HOST_WIDE_INT) (-delta);
8369 : : }
8370 : : else
8371 : : {
8372 : 0 : delta = (unsigned HOST_WIDE_INT) offset - min_offset;
8373 : 0 : delta -= delta % range;
8374 : 0 : if (delta > bias - 1)
8375 : : delta = bias - 1;
8376 : 0 : offset = (HOST_WIDE_INT) delta;
8377 : : }
8378 : : }
8379 : :
8380 : : /* Do a binary search to see if there's already an anchor we can use.
8381 : : Set BEGIN to the new anchor's index if not. */
8382 : 0 : begin = 0;
8383 : 0 : end = vec_safe_length (block->anchors);
8384 : 0 : while (begin != end)
8385 : : {
8386 : 0 : middle = (end + begin) / 2;
8387 : 0 : anchor = (*block->anchors)[middle];
8388 : 0 : if (SYMBOL_REF_BLOCK_OFFSET (anchor) > offset)
8389 : : end = middle;
8390 : 0 : else if (SYMBOL_REF_BLOCK_OFFSET (anchor) < offset)
8391 : 0 : begin = middle + 1;
8392 : 0 : else if (SYMBOL_REF_TLS_MODEL (anchor) > model)
8393 : : end = middle;
8394 : 0 : else if (SYMBOL_REF_TLS_MODEL (anchor) < model)
8395 : 0 : begin = middle + 1;
8396 : : else
8397 : : return anchor;
8398 : : }
8399 : :
8400 : : /* Create a new anchor with a unique label. */
8401 : 0 : ASM_GENERATE_INTERNAL_LABEL (label, "LANCHOR", anchor_labelno++);
8402 : 0 : anchor = create_block_symbol (ggc_strdup (label), block, offset);
8403 : 0 : SYMBOL_REF_FLAGS (anchor) |= SYMBOL_FLAG_LOCAL | SYMBOL_FLAG_ANCHOR;
8404 : 0 : SYMBOL_REF_FLAGS (anchor) |= model << SYMBOL_FLAG_TLS_SHIFT;
8405 : :
8406 : : /* Insert it at index BEGIN. */
8407 : 0 : vec_safe_insert (block->anchors, begin, anchor);
8408 : 0 : return anchor;
8409 : : }
8410 : :
8411 : : /* Output the objects in BLOCK. */
8412 : :
8413 : : static void
8414 : 0 : output_object_block (struct object_block *block)
8415 : : {
8416 : 0 : class constant_descriptor_rtx *desc;
8417 : 0 : unsigned int i;
8418 : 0 : HOST_WIDE_INT offset;
8419 : 0 : tree decl;
8420 : 0 : rtx symbol;
8421 : :
8422 : 0 : if (!block->objects)
8423 : 0 : return;
8424 : :
8425 : : /* Switch to the section and make sure that the first byte is
8426 : : suitably aligned. */
8427 : : /* Special case VTV comdat sections similar to assemble_variable. */
8428 : 0 : if (SECTION_STYLE (block->sect) == SECTION_NAMED
8429 : 0 : && block->sect->named.name
8430 : 0 : && (strcmp (block->sect->named.name, ".vtable_map_vars") == 0))
8431 : 0 : handle_vtv_comdat_section (block->sect, block->sect->named.decl);
8432 : : else
8433 : 0 : switch_to_section (block->sect, SYMBOL_REF_DECL ((*block->objects)[0]));
8434 : :
8435 : 0 : gcc_checking_assert (!(block->sect->common.flags & SECTION_MERGE));
8436 : 0 : assemble_align (block->alignment);
8437 : :
8438 : : /* Define the values of all anchors relative to the current section
8439 : : position. */
8440 : 0 : FOR_EACH_VEC_SAFE_ELT (block->anchors, i, symbol)
8441 : 0 : targetm.asm_out.output_anchor (symbol);
8442 : :
8443 : : /* Output the objects themselves. */
8444 : : offset = 0;
8445 : 0 : FOR_EACH_VEC_ELT (*block->objects, i, symbol)
8446 : : {
8447 : : /* Move to the object's offset, padding with zeros if necessary. */
8448 : 0 : assemble_zeros (SYMBOL_REF_BLOCK_OFFSET (symbol) - offset);
8449 : 0 : offset = SYMBOL_REF_BLOCK_OFFSET (symbol);
8450 : 0 : if (CONSTANT_POOL_ADDRESS_P (symbol))
8451 : : {
8452 : 0 : desc = SYMBOL_REF_CONSTANT (symbol);
8453 : : /* Pass 1 for align as we have already laid out everything in the block.
8454 : : So aligning shouldn't be necessary. */
8455 : 0 : output_constant_pool_1 (desc, 1);
8456 : 0 : offset += GET_MODE_SIZE (desc->mode);
8457 : : }
8458 : 0 : else if (TREE_CONSTANT_POOL_ADDRESS_P (symbol))
8459 : : {
8460 : 0 : HOST_WIDE_INT size;
8461 : 0 : decl = SYMBOL_REF_DECL (symbol);
8462 : 0 : assemble_constant_contents (DECL_INITIAL (decl), XSTR (symbol, 0),
8463 : 0 : DECL_ALIGN (decl), false);
8464 : :
8465 : 0 : size = get_constant_size (DECL_INITIAL (decl));
8466 : 0 : offset += size;
8467 : 0 : if ((flag_sanitize & SANITIZE_ADDRESS)
8468 : 0 : && TREE_CODE (DECL_INITIAL (decl)) == STRING_CST
8469 : 0 : && asan_protect_global (DECL_INITIAL (decl)))
8470 : : {
8471 : 0 : size = asan_red_zone_size (size);
8472 : 0 : assemble_zeros (size);
8473 : 0 : offset += size;
8474 : : }
8475 : : }
8476 : : else
8477 : : {
8478 : 0 : HOST_WIDE_INT size;
8479 : 0 : decl = SYMBOL_REF_DECL (symbol);
8480 : 0 : assemble_variable_contents (decl, XSTR (symbol, 0), false, false);
8481 : 0 : size = tree_to_uhwi (DECL_SIZE_UNIT (decl));
8482 : 0 : offset += size;
8483 : 0 : if ((flag_sanitize & SANITIZE_ADDRESS)
8484 : 0 : && asan_protect_global (decl))
8485 : : {
8486 : 0 : size = asan_red_zone_size (size);
8487 : 0 : assemble_zeros (size);
8488 : 0 : offset += size;
8489 : : }
8490 : : }
8491 : : }
8492 : : }
8493 : :
8494 : : /* A callback for qsort to compare object_blocks. */
8495 : :
8496 : : static int
8497 : 0 : output_object_block_compare (const void *x, const void *y)
8498 : : {
8499 : 0 : object_block *p1 = *(object_block * const*)x;
8500 : 0 : object_block *p2 = *(object_block * const*)y;
8501 : :
8502 : 0 : if (p1->sect->common.flags & SECTION_NAMED
8503 : 0 : && !(p2->sect->common.flags & SECTION_NAMED))
8504 : : return 1;
8505 : :
8506 : 0 : if (!(p1->sect->common.flags & SECTION_NAMED)
8507 : 0 : && p2->sect->common.flags & SECTION_NAMED)
8508 : : return -1;
8509 : :
8510 : 0 : if (p1->sect->common.flags & SECTION_NAMED
8511 : 0 : && p2->sect->common.flags & SECTION_NAMED)
8512 : 0 : return strcmp (p1->sect->named.name, p2->sect->named.name);
8513 : :
8514 : 0 : unsigned f1 = p1->sect->common.flags;
8515 : 0 : unsigned f2 = p2->sect->common.flags;
8516 : 0 : if (f1 == f2)
8517 : : return 0;
8518 : 0 : return f1 < f2 ? -1 : 1;
8519 : : }
8520 : :
8521 : : /* Output the definitions of all object_blocks. */
8522 : :
8523 : : void
8524 : 224060 : output_object_blocks (void)
8525 : : {
8526 : 224060 : vec<object_block *, va_heap> v;
8527 : 224060 : v.create (object_block_htab->elements ());
8528 : 224060 : object_block *obj;
8529 : 224060 : hash_table<object_block_hasher>::iterator hi;
8530 : :
8531 : 224060 : FOR_EACH_HASH_TABLE_ELEMENT (*object_block_htab, obj, object_block *, hi)
8532 : 0 : v.quick_push (obj);
8533 : :
8534 : : /* Sort them in order to output them in a deterministic manner,
8535 : : otherwise we may get .rodata sections in different orders with
8536 : : and without -g. */
8537 : 224060 : v.qsort (output_object_block_compare);
8538 : : unsigned i;
8539 : 224060 : FOR_EACH_VEC_ELT (v, i, obj)
8540 : 0 : output_object_block (obj);
8541 : :
8542 : 224060 : v.release ();
8543 : 224060 : }
8544 : :
8545 : : /* This function provides a possible implementation of the
8546 : : TARGET_ASM_RECORD_GCC_SWITCHES target hook for ELF targets. When triggered
8547 : : by -frecord-gcc-switches it creates a new mergeable, string section in the
8548 : : assembler output file called TARGET_ASM_RECORD_GCC_SWITCHES_SECTION which
8549 : : contains the switches in ASCII format.
8550 : :
8551 : : FIXME: This code does not correctly handle double quote characters
8552 : : that appear inside strings, (it strips them rather than preserving them).
8553 : : FIXME: ASM_OUTPUT_ASCII, as defined in config/elfos.h will not emit NUL
8554 : : characters - instead it treats them as sub-string separators. Since
8555 : : we want to emit NUL strings terminators into the object file we have to use
8556 : : ASM_OUTPUT_SKIP. */
8557 : :
8558 : : void
8559 : 0 : elf_record_gcc_switches (const char *options)
8560 : : {
8561 : 0 : section *sec = get_section (targetm.asm_out.record_gcc_switches_section,
8562 : : SECTION_DEBUG | SECTION_MERGE
8563 : : | SECTION_STRINGS | (SECTION_ENTSIZE & 1), NULL);
8564 : 0 : switch_to_section (sec);
8565 : 0 : ASM_OUTPUT_ASCII (asm_out_file, options, strlen (options) + 1);
8566 : 0 : }
8567 : :
8568 : : /* Emit text to declare externally defined symbols. It is needed to
8569 : : properly support non-default visibility. */
8570 : : void
8571 : 1765773 : default_elf_asm_output_external (FILE *file ATTRIBUTE_UNUSED,
8572 : : tree decl,
8573 : : const char *name ATTRIBUTE_UNUSED)
8574 : : {
8575 : : /* We output the name if and only if TREE_SYMBOL_REFERENCED is
8576 : : set in order to avoid putting out names that are never really
8577 : : used. Always output visibility specified in the source. */
8578 : 1765773 : if (TREE_SYMBOL_REFERENCED (DECL_ASSEMBLER_NAME (decl))
8579 : 1765773 : && (DECL_VISIBILITY_SPECIFIED (decl)
8580 : 1567889 : || targetm.binds_local_p (decl)))
8581 : 187606 : maybe_assemble_visibility (decl);
8582 : 1765773 : }
8583 : :
8584 : : /* The default hook for TARGET_ASM_OUTPUT_SOURCE_FILENAME. */
8585 : :
8586 : : void
8587 : 264848 : default_asm_output_source_filename (FILE *file, const char *name)
8588 : : {
8589 : : #ifdef ASM_OUTPUT_SOURCE_FILENAME
8590 : : ASM_OUTPUT_SOURCE_FILENAME (file, name);
8591 : : #else
8592 : 264848 : fprintf (file, "\t.file\t");
8593 : 264848 : output_quoted_string (file, name);
8594 : 264848 : putc ('\n', file);
8595 : : #endif
8596 : 264848 : }
8597 : :
8598 : : /* Output a file name in the form wanted by System V. */
8599 : :
8600 : : void
8601 : 264848 : output_file_directive (FILE *asm_file, const char *input_name)
8602 : : {
8603 : 264848 : int len;
8604 : 264848 : const char *na;
8605 : :
8606 : 264848 : if (input_name == NULL)
8607 : : input_name = "<stdin>";
8608 : : else
8609 : 264848 : input_name = remap_debug_filename (input_name);
8610 : :
8611 : 264848 : len = strlen (input_name);
8612 : 264848 : na = input_name + len;
8613 : :
8614 : : /* NA gets INPUT_NAME sans directory names. */
8615 : 3774636 : while (na > input_name)
8616 : : {
8617 : 3739817 : if (IS_DIR_SEPARATOR (na[-1]))
8618 : : break;
8619 : 3509788 : na--;
8620 : : }
8621 : :
8622 : 264848 : targetm.asm_out.output_source_filename (asm_file, na);
8623 : 264848 : }
8624 : :
8625 : : /* Create a DEBUG_EXPR_DECL / DEBUG_EXPR pair from RTL expression
8626 : : EXP. */
8627 : : rtx
8628 : 302522 : make_debug_expr_from_rtl (const_rtx exp)
8629 : : {
8630 : 302522 : tree ddecl = make_node (DEBUG_EXPR_DECL), type;
8631 : 302522 : machine_mode mode = GET_MODE (exp);
8632 : 302522 : rtx dval;
8633 : :
8634 : 302522 : DECL_ARTIFICIAL (ddecl) = 1;
8635 : 302522 : if (REG_P (exp) && REG_EXPR (exp))
8636 : 251452 : type = TREE_TYPE (REG_EXPR (exp));
8637 : 55120 : else if (MEM_P (exp) && MEM_EXPR (exp))
8638 : 4050 : type = TREE_TYPE (MEM_EXPR (exp));
8639 : : else
8640 : : type = NULL_TREE;
8641 : 255502 : if (type && TYPE_MODE (type) == mode)
8642 : 189867 : TREE_TYPE (ddecl) = type;
8643 : : else
8644 : 112655 : TREE_TYPE (ddecl) = lang_hooks.types.type_for_mode (mode, 1);
8645 : 302522 : SET_DECL_MODE (ddecl, mode);
8646 : 302522 : dval = gen_rtx_DEBUG_EXPR (mode);
8647 : 302522 : DEBUG_EXPR_TREE_DECL (dval) = ddecl;
8648 : 302522 : SET_DECL_RTL (ddecl, dval);
8649 : 302522 : return dval;
8650 : : }
8651 : :
8652 : : #ifdef ELF_ASCII_ESCAPES
8653 : : /* Default ASM_OUTPUT_LIMITED_STRING for ELF targets. */
8654 : :
8655 : : void
8656 : 23837942 : default_elf_asm_output_limited_string (FILE *f, const char *s)
8657 : : {
8658 : 23837942 : int escape;
8659 : 23837942 : unsigned char c;
8660 : :
8661 : 23837942 : fputs (STRING_ASM_OP "\"", f);
8662 : 725765894 : while (*s != '\0')
8663 : : {
8664 : 678090010 : c = *s;
8665 : 678090010 : escape = ELF_ASCII_ESCAPES[c];
8666 : 678090010 : switch (escape)
8667 : : {
8668 : 677889651 : case 0:
8669 : 677889651 : putc (c, f);
8670 : 677889651 : break;
8671 : 90493 : case 1:
8672 : 90493 : putc ('\\', f);
8673 : 90493 : putc ('0'+((c>>6)&7), f);
8674 : 90493 : putc ('0'+((c>>3)&7), f);
8675 : 90493 : putc ('0'+(c&7), f);
8676 : 90493 : break;
8677 : 109866 : default:
8678 : 109866 : putc ('\\', f);
8679 : 109866 : putc (escape, f);
8680 : 109866 : break;
8681 : : }
8682 : 678090010 : s++;
8683 : : }
8684 : 23837942 : putc ('\"', f);
8685 : 23837942 : putc ('\n', f);
8686 : 23837942 : }
8687 : :
8688 : : /* Default ASM_OUTPUT_ASCII for ELF targets. */
8689 : :
8690 : : void
8691 : 34034817 : default_elf_asm_output_ascii (FILE *f, const char *s, unsigned int len)
8692 : : {
8693 : 34034817 : const char *limit = s + len;
8694 : 34034817 : const char *last_null = NULL;
8695 : 34034817 : const char *last_base64 = s;
8696 : 34034817 : unsigned bytes_in_chunk = 0;
8697 : 34034817 : unsigned char c;
8698 : 34034817 : int escape;
8699 : 34034817 : bool prev_base64 = false;
8700 : :
8701 : 283288217 : for (; s < limit; s++)
8702 : : {
8703 : 249253400 : const char *p;
8704 : :
8705 : 249253400 : if (bytes_in_chunk >= 60)
8706 : : {
8707 : 3148568 : putc ('\"', f);
8708 : 3148568 : putc ('\n', f);
8709 : 3148568 : bytes_in_chunk = 0;
8710 : : }
8711 : :
8712 : 249253400 : if ((uintptr_t) s > (uintptr_t) last_null)
8713 : : {
8714 : 994314077 : for (p = s; p < limit && *p != '\0'; p++)
8715 : 959963875 : continue;
8716 : : last_null = p;
8717 : : }
8718 : : else
8719 : : p = last_null;
8720 : :
8721 : : #if defined(BASE64_ASM_OP) \
8722 : : && BITS_PER_UNIT == 8 \
8723 : : && CHAR_BIT == 8 \
8724 : : && 'A' == 65 \
8725 : : && 'a' == 97 \
8726 : : && '0' == 48 \
8727 : : && '+' == 43 \
8728 : : && '/' == 47 \
8729 : : && '=' == 61
8730 : 249253400 : if (s >= last_base64)
8731 : : {
8732 : : unsigned cnt = 0;
8733 : : unsigned char prev_c = ' ';
8734 : : const char *t;
8735 : 1059449287 : for (t = s; t < limit && (t - s) < (long) ELF_STRING_LIMIT - 1; t++)
8736 : : {
8737 : 1046254391 : if (t == p && t != s)
8738 : : {
8739 : 23016052 : if (cnt <= ((unsigned) (t - s) + 1 + 2) / 3 * 4
8740 : 22060517 : && (!prev_base64 || (t - s) >= 16)
8741 : 22056531 : && ((t - s) > 1 || cnt <= 2))
8742 : : {
8743 : 21967241 : last_base64 = p;
8744 : 21967241 : goto no_base64;
8745 : : }
8746 : : }
8747 : 1024287150 : c = *t;
8748 : 1024287150 : escape = ELF_ASCII_ESCAPES[c];
8749 : 1024287150 : switch (escape)
8750 : : {
8751 : 932702543 : case 0:
8752 : 932702543 : ++cnt;
8753 : 932702543 : break;
8754 : 86292010 : case 1:
8755 : 86292010 : if (c == 0)
8756 : : {
8757 : 10751426 : if (prev_c == 0
8758 : 5554461 : && t + 1 < limit
8759 : 4708760 : && (t + 1 - s) < (long) ELF_STRING_LIMIT - 1)
8760 : : break;
8761 : 6044685 : cnt += 2 + strlen (STRING_ASM_OP) + 1;
8762 : : }
8763 : : else
8764 : 75540584 : cnt += 4;
8765 : : break;
8766 : 5292597 : default:
8767 : 5292597 : cnt += 2;
8768 : 5292597 : break;
8769 : : }
8770 : 1024287150 : prev_c = c;
8771 : : }
8772 : 13194896 : if (cnt > ((unsigned) (t - s) + 2) / 3 * 4 && (t - s) >= 3)
8773 : : {
8774 : 1764929 : if (bytes_in_chunk > 0)
8775 : : {
8776 : 533 : putc ('\"', f);
8777 : 533 : putc ('\n', f);
8778 : 533 : bytes_in_chunk = 0;
8779 : : }
8780 : :
8781 : 1764929 : unsigned char buf[(ELF_STRING_LIMIT + 2) / 3 * 4 + 3];
8782 : 1764929 : unsigned j = 0;
8783 : 1764929 : static const char base64_enc[] =
8784 : : "ABCDEFGHIJKLMNOPQRSTUVWXYZabcdefghijklmnopqrstuvwxyz"
8785 : : "0123456789+/";
8786 : :
8787 : 1764929 : fputs (BASE64_ASM_OP "\"", f);
8788 : 46143642 : while (s < t)
8789 : : {
8790 : 43892174 : unsigned char a = *s;
8791 : 43892174 : unsigned char b = 0, c = 0;
8792 : 43892174 : if (s < t - 1)
8793 : 43319830 : b = s[1];
8794 : 43892174 : if (s < t - 2)
8795 : 42613784 : c = s[2];
8796 : 43892174 : unsigned long v = ((((unsigned long) a) << 16)
8797 : 43892174 : | (((unsigned long) b) << 8)
8798 : 43892174 : | c);
8799 : 43892174 : buf[j++] = base64_enc[(v >> 18) & 63];
8800 : 43892174 : buf[j++] = base64_enc[(v >> 12) & 63];
8801 : 43892174 : buf[j++] = base64_enc[(v >> 6) & 63];
8802 : 43892174 : buf[j++] = base64_enc[v & 63];
8803 : 43892174 : if (s >= t - 2)
8804 : : {
8805 : 1278390 : buf[j - 1] = '=';
8806 : 1278390 : if (s >= t - 1)
8807 : 572344 : buf[j - 2] = '=';
8808 : : break;
8809 : : }
8810 : 42613784 : s += 3;
8811 : : }
8812 : 1764929 : memcpy (buf + j, "\"\n", 3);
8813 : 1764929 : fputs ((const char *) buf, f);
8814 : 1764929 : s = t - 1;
8815 : 1764929 : prev_base64 = true;
8816 : 1764929 : continue;
8817 : 1764929 : }
8818 : : last_base64 = t;
8819 : : no_base64:
8820 : : prev_base64 = false;
8821 : : }
8822 : : #else
8823 : : (void) last_base64;
8824 : : (void) prev_base64;
8825 : : #endif
8826 : :
8827 : 247488471 : if (p < limit && (p - s) <= (long) ELF_STRING_LIMIT)
8828 : : {
8829 : 23839754 : if (bytes_in_chunk > 0)
8830 : : {
8831 : 142414 : putc ('\"', f);
8832 : 142414 : putc ('\n', f);
8833 : 142414 : bytes_in_chunk = 0;
8834 : : }
8835 : :
8836 : 23839754 : if (p == s && p + 1 < limit && p[1] == '\0')
8837 : : {
8838 : 34790 : for (p = s + 2; p < limit && *p == '\0'; p++)
8839 : 32978 : continue;
8840 : 1812 : ASM_OUTPUT_SKIP (f, (unsigned HOST_WIDE_INT) (p - s));
8841 : 1812 : s = p - 1;
8842 : : }
8843 : : else
8844 : : {
8845 : 23837942 : default_elf_asm_output_limited_string (f, s);
8846 : 23837942 : s = p;
8847 : : }
8848 : : }
8849 : : else
8850 : : {
8851 : 223648717 : if (bytes_in_chunk == 0)
8852 : 12157411 : fputs (ASCII_DATA_ASM_OP "\"", f);
8853 : :
8854 : 223648717 : c = *s;
8855 : 223648717 : escape = ELF_ASCII_ESCAPES[c];
8856 : 223648717 : switch (escape)
8857 : : {
8858 : 220891778 : case 0:
8859 : 220891778 : putc (c, f);
8860 : 220891778 : bytes_in_chunk++;
8861 : 220891778 : break;
8862 : 1058317 : case 1:
8863 : 1058317 : putc ('\\', f);
8864 : 1058317 : putc ('0'+((c>>6)&7), f);
8865 : 1058317 : putc ('0'+((c>>3)&7), f);
8866 : 1058317 : putc ('0'+(c&7), f);
8867 : 1058317 : bytes_in_chunk += 4;
8868 : 1058317 : break;
8869 : 1698622 : default:
8870 : 1698622 : putc ('\\', f);
8871 : 1698622 : putc (escape, f);
8872 : 1698622 : bytes_in_chunk += 2;
8873 : 1698622 : break;
8874 : : }
8875 : :
8876 : : }
8877 : : }
8878 : :
8879 : 34034817 : if (bytes_in_chunk > 0)
8880 : : {
8881 : 8865896 : putc ('\"', f);
8882 : 8865896 : putc ('\n', f);
8883 : : }
8884 : 34034817 : }
8885 : : #endif
8886 : :
8887 : : static GTY(()) section *elf_init_array_section;
8888 : : static GTY(()) section *elf_fini_array_section;
8889 : :
8890 : : static section *
8891 : 22317 : get_elf_initfini_array_priority_section (int priority,
8892 : : bool constructor_p)
8893 : : {
8894 : 22317 : section *sec;
8895 : 22317 : if (priority != DEFAULT_INIT_PRIORITY)
8896 : : {
8897 : 4898 : char buf[18];
8898 : 4898 : sprintf (buf, "%s.%.5u",
8899 : : constructor_p ? ".init_array" : ".fini_array",
8900 : : priority);
8901 : 4898 : sec = get_section (buf, SECTION_WRITE | SECTION_NOTYPE, NULL_TREE);
8902 : : }
8903 : : else
8904 : : {
8905 : 17419 : if (constructor_p)
8906 : : {
8907 : 17366 : if (elf_init_array_section == NULL)
8908 : 16856 : elf_init_array_section
8909 : 16856 : = get_section (".init_array",
8910 : : SECTION_WRITE | SECTION_NOTYPE, NULL_TREE);
8911 : 17366 : sec = elf_init_array_section;
8912 : : }
8913 : : else
8914 : : {
8915 : 53 : if (elf_fini_array_section == NULL)
8916 : 49 : elf_fini_array_section
8917 : 49 : = get_section (".fini_array",
8918 : : SECTION_WRITE | SECTION_NOTYPE, NULL_TREE);
8919 : 53 : sec = elf_fini_array_section;
8920 : : }
8921 : : }
8922 : 22317 : return sec;
8923 : : }
8924 : :
8925 : : /* Use .init_array section for constructors. */
8926 : :
8927 : : void
8928 : 20804 : default_elf_init_array_asm_out_constructor (rtx symbol, int priority)
8929 : : {
8930 : 20804 : section *sec = get_elf_initfini_array_priority_section (priority,
8931 : : true);
8932 : 20804 : assemble_addr_to_section (symbol, sec);
8933 : 20804 : }
8934 : :
8935 : : /* Use .fini_array section for destructors. */
8936 : :
8937 : : void
8938 : 1513 : default_elf_fini_array_asm_out_destructor (rtx symbol, int priority)
8939 : : {
8940 : 1513 : section *sec = get_elf_initfini_array_priority_section (priority,
8941 : : false);
8942 : 1513 : assemble_addr_to_section (symbol, sec);
8943 : 1513 : }
8944 : :
8945 : : /* Default TARGET_ASM_OUTPUT_IDENT hook.
8946 : :
8947 : : This is a bit of a cheat. The real default is a no-op, but this
8948 : : hook is the default for all targets with a .ident directive. */
8949 : :
8950 : : void
8951 : 230274 : default_asm_output_ident_directive (const char *ident_str)
8952 : : {
8953 : 230274 : const char *ident_asm_op = "\t.ident\t";
8954 : :
8955 : : /* If we are still in the front end, do not write out the string
8956 : : to asm_out_file. Instead, add a fake top-level asm statement.
8957 : : This allows the front ends to use this hook without actually
8958 : : writing to asm_out_file, to handle #ident or Pragma Ident. */
8959 : 230274 : if (symtab->state == PARSING)
8960 : : {
8961 : 27 : char *buf = ACONCAT ((ident_asm_op, "\"", ident_str, "\"\n", NULL));
8962 : 27 : symtab->finalize_toplevel_asm (build_string (strlen (buf), buf));
8963 : : }
8964 : : else
8965 : 230247 : fprintf (asm_out_file, "%s\"%s\"\n", ident_asm_op, ident_str);
8966 : 230274 : }
8967 : :
8968 : : /* Switch to a COMDAT section with COMDAT name of decl.
8969 : :
8970 : : FIXME: resolve_unique_section needs to deal better with
8971 : : decls with both DECL_SECTION_NAME and DECL_ONE_ONLY. Once
8972 : : that is fixed, this if-else statement can be replaced with
8973 : : a single call to "switch_to_section (sect)". */
8974 : :
8975 : : void
8976 : 15 : switch_to_comdat_section (section *sect, tree decl)
8977 : : {
8978 : : #if defined (OBJECT_FORMAT_ELF)
8979 : 15 : targetm.asm_out.named_section (sect->named.name,
8980 : 15 : sect->named.common.flags
8981 : : | SECTION_LINKONCE,
8982 : : decl);
8983 : 15 : in_section = sect;
8984 : : #else
8985 : : /* Neither OBJECT_FORMAT_PE, nor OBJECT_FORMAT_COFF is set here.
8986 : : Therefore the following check is used.
8987 : : In case a the target is PE or COFF a comdat group section
8988 : : is created, e.g. .vtable_map_vars$foo. The linker places
8989 : : everything in .vtable_map_vars at the end.
8990 : :
8991 : : A fix could be made in
8992 : : gcc/config/i386/winnt.cc: mingw_pe_unique_section. */
8993 : : if (TARGET_PECOFF)
8994 : : {
8995 : : char *name;
8996 : :
8997 : : if (TREE_CODE (decl) == IDENTIFIER_NODE)
8998 : : name = ACONCAT ((sect->named.name, "$",
8999 : : IDENTIFIER_POINTER (decl), NULL));
9000 : : else
9001 : : name = ACONCAT ((sect->named.name, "$",
9002 : : IDENTIFIER_POINTER (DECL_COMDAT_GROUP (decl)),
9003 : : NULL));
9004 : :
9005 : : targetm.asm_out.named_section (name,
9006 : : sect->named.common.flags
9007 : : | SECTION_LINKONCE,
9008 : : decl);
9009 : : in_section = sect;
9010 : : }
9011 : : else
9012 : : switch_to_section (sect);
9013 : : #endif
9014 : 15 : }
9015 : :
9016 : : /* This function ensures that vtable_map variables are not only
9017 : : in the comdat section, but that each variable has its own unique
9018 : : comdat name. Without this the variables end up in the same section
9019 : : with a single comdat name. */
9020 : :
9021 : : static void
9022 : 3 : handle_vtv_comdat_section (section *sect, const_tree decl ATTRIBUTE_UNUSED)
9023 : : {
9024 : 3 : switch_to_comdat_section(sect, DECL_NAME (decl));
9025 : 3 : }
9026 : :
9027 : : void
9028 : 252466 : varasm_cc_finalize ()
9029 : : {
9030 : 252466 : first_global_object_name = nullptr;
9031 : 252466 : weak_global_object_name = nullptr;
9032 : :
9033 : 252466 : const_labelno = 0;
9034 : 252466 : size_directive_output = 0;
9035 : :
9036 : 252466 : last_assemble_variable_decl = NULL_TREE;
9037 : 252466 : first_function_block_is_cold = false;
9038 : 252466 : saw_no_split_stack = false;
9039 : 252466 : text_section = nullptr;
9040 : 252466 : data_section = nullptr;
9041 : 252466 : readonly_data_section = nullptr;
9042 : 252466 : sdata_section = nullptr;
9043 : 252466 : ctors_section = nullptr;
9044 : 252466 : dtors_section = nullptr;
9045 : 252466 : bss_section = nullptr;
9046 : 252466 : sbss_section = nullptr;
9047 : 252466 : tls_comm_section = nullptr;
9048 : 252466 : comm_section = nullptr;
9049 : 252466 : lcomm_section = nullptr;
9050 : 252466 : bss_noswitch_section = nullptr;
9051 : 252466 : exception_section = nullptr;
9052 : 252466 : eh_frame_section = nullptr;
9053 : 252466 : in_section = nullptr;
9054 : 252466 : in_cold_section_p = false;
9055 : 252466 : cold_function_name = NULL_TREE;
9056 : 252466 : unnamed_sections = nullptr;
9057 : 252466 : section_htab = nullptr;
9058 : 252466 : object_block_htab = nullptr;
9059 : 252466 : anchor_labelno = 0;
9060 : 252466 : shared_constant_pool = nullptr;
9061 : 252466 : pending_assemble_externals = NULL_TREE;
9062 : 252466 : pending_libcall_symbols = nullptr;
9063 : :
9064 : : #ifdef ASM_OUTPUT_EXTERNAL
9065 : 252466 : pending_assemble_externals_processed = false;
9066 : 275355 : delete pending_assemble_externals_set;
9067 : 252466 : pending_assemble_externals_set = nullptr;
9068 : : #endif
9069 : :
9070 : 252466 : weak_decls = NULL_TREE;
9071 : 252466 : initial_trampoline = nullptr;
9072 : 252466 : const_desc_htab = nullptr;
9073 : 252466 : weakref_targets = NULL_TREE;
9074 : 252466 : alias_pairs = nullptr;
9075 : 252466 : tm_clone_hash = nullptr;
9076 : 252466 : trampolines_created = 0;
9077 : 252466 : elf_init_array_section = nullptr;
9078 : 252466 : elf_fini_array_section = nullptr;
9079 : 252466 : }
9080 : :
9081 : : #include "gt-varasm.h"
|
